ИНТЕРФАКС – В МГУ имени М.В. Ломоносова ректор Виктор Садовничий открыл новый суперкомпьютер, обладающий специализированной архитектурой, сообщает вуз. Поэтому один из самых крупных суперкомпьютеров в России – в Гидрометцентре. Например, самый мощный суперкомпьютер в России «Червоненкис» за полгода (с июля по ноябрь) опустился в мировом рейтинге на 3 пункта (еще в июле 2022 года он занимал 22 место).
Один из самых мощных суперкомпьютеров в России работает в СевГУ
Его "проигрывают" в разных вариантах, испытывают в разных режимах и выбирают лучший, который и должен стать реальным прототипом будущего изделия. Скажем, еще недавно, проектируя автомобиль, конструкторы обязательно разбивали его, направляя в стену, чтобы увидеть, как машина держит удар. Сегодня на компьютерной модели машина врезается в виртуальный тупик. Так, по данным компании Ford, если бы реальные автомобили разбивались о бетонку с одновременным замером необходимых параметров, съемкой и последующей обработкой результатов, понадобилось бы от 10 до 150 прототипов для каждой новой модели. При этом общие затраты составили бы от 4 до 60 миллионов долларов. Уже очевидно, что компьютерный способ творения намного дешевле, надежнее и в 2-2,5 раза быстрее традиционного. Современные "числодробилки" работают в статистике, криптографии, биологии, физике. Они ставят диагнозы, разрабатывают новые лекарства, предсказывают погоду и пишут сценарии глобальных изменений климата.
Как раз для того что бы можно было строить суперкомпутеры из азиатской россыпи не подпадая под различные ограничения на продажу технологий. А мощные процессоры сейчас commodites. Как собственно и материнские платы. Естественно данную «устоявшуюся» в узких кругах терминологию журналисты транслируют напрямую, а читатели не понимают вообще.
Проектирование суперкомпьютера началось осенью 2017 года и уже в следующем году стартовали пуско-наладочные работы. Осенью 2018 года прошли первые тестовые испытания пользователями. Разработчики - ученые и инженеры Центра по научным и инженерным вычислительным технологиям для задач с большими массивами данных CDISE Сколтеха - назвали «Жорес» в честь знаменитого физика Жореса Алферова, чьи разработки были использованы при создании компьютера. В состав суперкомпьютера входит 74 вычислительных узла, 26 узлов с мощными графическими ускорителями с тензорными ядрами для глубокого машинного обучения, в каждом из которых по четыре NVidia Tesla V100 c NVLink и GPUDirect RDMA, и система хранения данных с параллельной файловой системой на 0,5 Пбайт. Потребление суперкомпьютером электроэнергии не превышает 90 кВт.
При этом отечественное решение потребляет в 10 раз меньше энергии. Сравнительно же малая тактовая частота порядка 200 МГц не мешает российскому микропроцессору существенно превосходить по производительности собратьев из Intel Xeon с 3 ГГц. Такой эффект достигается благодаря параллелизму при обработке сложных моделей данных, что позволяет Леонарду Эйлеру обрабатывать до 120 млн вершин графов в секунду. Используя многоядерные микропроцессоры Leonhard, в МГТУ и построили суперкомпьютер «Тераграф», способный обрабатывать графы сверхбольшой размерности до 1 трлн вершин 1012. В заключение в ведомстве обратили внимание на важность аппаратной поддержки дискретной математики, поскольку большинство вычислительных задач по своей сути являются дискретными, то есть требующими обработки множеств чисел. Речь идет о многочисленных задачах оптимизации, задачах на графах и задачах машинного обучения.
В России разработан первый в мире суперкомпьютер для цифрового «клонирования» людей и городов.
| «Сбербанк» представил самый мощный в России суперкомпьютер | Свой суперкомпьютер Jetson Xavier NVIDIA представила ещё в 2018 году — он способен выполнять 30 трлн операций в секунду. |
| Сбербанк сообщил о создании мощнейшего суперкомпьютера в России | «Сбер» представил новый суперкомпьютер для ускорения задач в области искусственного интеллекта. |
| В россии осуществили сборку нового "суперкомпьютера" из китайских комплектующих! | На днях на выставке «Цифровая индустрия промышленной России» в Нижнем Новгороде, доцент кафедры компьютерных систем и сетей МГТУ имени Баумана Алексей Попов представил 24-ядерный микропроцессор «Леонард Эйлер» и суперкомпьютер «Тераграф». |
| Суперкомпьютеры 2023: новые чемпионы и старые аутсайдеры | Наука и жизнь | Например, самый мощный суперкомпьютер в России «Червоненкис» за полгода (с июля по ноябрь) опустился в мировом рейтинге на 3 пункта (еще в июле 2022 года он занимал 22 место). |
| В России создан суперкомпьютер в 100 терафлопс - Новости - Госкорпорация «Роскосмос» | О возможностях мощнейшего в России суперкомпьютера рассказали президент, председатель правления Сбербанка Герман Греф и СТО Сбербанк Груп, исполнительный вице-президент, руководитель блока «Технологии» Сбербанка Давид Рафаловский. |
Созданный в МГУ суперкомпьютер вернет России лидерство в этой сфере
В конференции приняли участие 393 очных и 35 заочных участников из 92 организаций, включая 27 университетов и 34 институтов РАН. Было представлено 10 пленарных докладов, 59 научных докладов, 7 докладов конференции молодых ученых, 10 стендовых докладов. Лучшие доклады были отмечены призами. Была вручена премия имени В.
Он может обрабатывать графы сверхбольшой размерности до одного триллиона вершин 1012.
Баумана «Набор команд нашего процессора состоит из таких действий, как добавление элементов в множество, поиск во множестве, пересечение множеств, поиск ближайшего и ряда других операций. Мы создали процессорное устройство, которое оперирует огромными множествами, например, содержащими миллиарды числовых ключей. И с помощью одной-единственной команды пересечения мы, к примеру, можем создать новое множество, являющееся результатом пересечения двух исходных множеств». Используя способность сохранять информацию о различных объектах и явлениях, а также учитывать связи между ними, графы знаний могут использоваться при анализе больших данных в биоинформатике, медицине, системах безопасности городов, компьютерных сетях, финансовом секторе, при контроле сложного промышленного производства, для анализа информации социальных сетей и во многих других областях.
Также на сайте Минобрнауки говорится о важности аппаратной поддержки дискретной математики, так как большинство вычислительных задач являются дискретными по своей сути и требуют обработки множеств чисел: различные задачи оптимизации, задачи на графах, задачи машинного обучения.
В сложившихся условиях сформировавшаяся практика списков Топ50 объективно отразить изменения как в области применения высокопроизводительных вычислительных систем, так и касательно передовых суперкомпьютерных технологий не способна и может способствовать некорректной трактовке статистики, что противоречит целям проекта. В связи с этим мы приняли решение временно приостановить публикацию новых редакций рейтинга. При этом все сервисы продолжат работать, в т.
Если каких-то тридцать лет назад вычислительный рекордсмен выполнял всего 10 в 9 степени операций в секунду, то нынешний - уже 10 в 15 степени. А за полвека мощность увеличилась в 700 миллионов раз! Современный смартфон работает так же быстро, как суперкомпьютерный лидер 1994 года. Выйдя на "гражданку", суперкомпьютеры произвели революцию во многих сферах нашей жизни. Они являются одним из главных показателей развития страны, ее конкурентоспособности в самых разных сферах экономики.
Сегодня, прежде чем создать реальный автомобиль, самолет, ядерный реактор, лекарство, новый материал, в суперкомпьютере моделируется их цифровой двойник. Его "проигрывают" в разных вариантах, испытывают в разных режимах и выбирают лучший, который и должен стать реальным прототипом будущего изделия. Скажем, еще недавно, проектируя автомобиль, конструкторы обязательно разбивали его, направляя в стену, чтобы увидеть, как машина держит удар.
В России представили суперкомпьютер для воссоздания состояния Вселенной после Большого Взрыва
Ломоносова запустили суперкомпьютер, который не имеет аналогов ни в каких вузах мира. Ректор МГУ некоторое время назад заявлял о том, что «МГУ-270» не имеет аналогов среди подобных систем в университетах мира и является вторым или третьим по мощности среди всех действующих суперкомпьютеров. Это 400 петафлопс.
Этот суперкомпьютер разработан на основе передовых технологий, и он войдёт в систему с ведущими научными центрами России.
МГУ уже имеет опыт в создании суперкомпьютеров, и этот новый проект будет ещё более мощным. Суперкомпьютеры в МГУ уже использовались для различных научных исследований и стали важным ресурсом для многих учёных в России.
И я сам говорил в 2017 году, что в 2022 году мы увидим первые компьютеры, которые выглядят так, как будто они думают независимо — даже если на самом деле это не так. Этот прогноз оказался верным для ChatGPT. Даже если система будет запрограммирована этически обоснованным образом — к примеру, с учетом принципа, что жертв среди гражданского населения следует избегать любой ценой. А что, если компьютер подсчитает, что бомбардировка больницы может в долгосрочной перспективе избежать гражданских целей? Это абсолютно реалистичный сценарий, и никто не узнает, как компьютер вообще додумался до такого.
Суперкомпьютеры Яндекса используются для обучения нейронных сетей, используемых в проектах компании. Например, в Яндекс Браузере есть функция автоматического перевода видеороликов на русский язык. Этим как-раз таки занимается специальная нейронная сеть. Умные устройства на базе помощника Алиса также подключены к нейронке и вся поступающая от них информация обрабатывается суперкомпьютерами. Суперкомпьютеры «Кристофари» являются единственными, которые открыты для использования другими пользователями. Сбербанк построила на их основе решение SberCloud, которое предлагает корпорациям для ускорения работы их ИТ-проектов. Ну и наверняка компания также задействует мощности для своих внутренних проектов, например в аналитике финансовых рынков.
Ложка дегтя в эту бочку меда В ноябре 2022 года компания Nvidia заявила о том, что уходит из России и не будет более поддерживать корпоративный клиентский сектор. Еще в сентябре 2022 года правительство США запретило компаниям Nvidia и AMD поставлять российским корпорациям ряд высокотехнологичных продуктов. Как видим, все наши суперкомпьютеры основаны на решениях от «зеленых» и уже к концу 2022 года становится заметным, что имеющиеся в мире суперкомпьютеры не стоят на месте и развиваются бешеными темпами. Например, самый мощный суперкомпьютер в России «Червоненкис» за полгода с июля по ноябрь опустился в мировом рейтинге на 3 пункта еще в июле 2022 года он занимал 22 место. Технологии не стоят на месте, а количесто информации для обработки постоянно прибавляется. Смогут ли топовые российские суперкомпьютеры, основанные на уже закрытых технологиях, в этой ситуации удерживаться в мировом топе? Особо остро стоит вопрос появления новых супермашин: как я понял из прочитанного в различных источниках, суперкомпьютер это не наше с вами «ведро», куда при желании можно вставить нужное количество оперативной памяти или новую видеокарту.
Обновление такого мощного устройства если и возможно, то затратно настолько, что проще изготовить новый. Но из чего его изготавливать, если для того, чтобы дойти до того же уровня технологий, которые есть у Nvidia и производить конкурентный аппаратный продукт, России понадобится несколько десятилетий? Увы, серьёзно опоздали россияне! Теперь же надо срочно догонять ушлых западников! Суперкомпьютеры Яндекса: взгляд изнутри Недавно три наших новых GPU-кластера заняли 19, 36 и 40 места в рейтинге суперкомпьютеров Top500. Это лучшие результаты среди всех участвующих в нём суперкомпьютеров России. Последний год был очень необычным в Яндексе.
Мы собрали и запустили три новых GPU-кластера для задач в области машинного обучения. К примеру, теперь именно на них обучаются гигантские нейросетевые модели Поиска, Алисы и других наших сервисов. Может показаться, что для запуска такого кластера самое сложное — это купить вагон GPU-карточек. В условиях «чипагеддона» это отчасти правда, но нет, самое сложное не в этом. Тут-то и начинается наша история. Пробный подход к снаряду В 2019 году произошла так называемая «революция трансформеров»: был опубликован ряд статей, которые показали, что применение гигантских нейросетей-трансформеров даёт удивительные результаты на задачах анализа текста. В частности, эти сети очень хорошо подходят для решения задачи ранжирования документов по запросу и для машинного перевода.
Более того, их применение не ограничивается сугубо языковыми задачами: трансформерная архитектура позволяет генерировать голос из текста и наоборот, предсказывать действия пользователя и многое другое. В общем, именно трансформеры сейчас определяют качество основных продуктов Яндекса. Если вам интересны детали, коллеги уже рассказывали на Хабре о внедрении этой архитектуры в нашем поиске. Но проблема была в том, что обучение таких моделей требует огромных вычислительных мощностей. Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели. Сейчас мы такую задачу можем решить за несколько часов, но об этом позже.
Мы попробовали собрать «нулевой» кластер буквально из того, что было под рукой. Результаты замеров показали низкий КПД масштабирования. В попытках понять причину придумали методику оценки, которая не требовала глубокого понимания алгоритма работы конкретного обучения. Достаточно построить график потребления энергии и обмена трафиком в одном масштабе. Обучение идет повторяющимися итерациями: 1. Каждый GPU получает свой batch и обсчитывает его синяя ступенька 2. Затем GPU обменивается по сети с соседями посчитанными результатами зелёная ступенька 3.
GOTO 1 На графике сразу же виден корень проблемы. Не самый эффективный способ использовать железо, согласитесь. Эксперименты на таком кластере проводить можно, но считать что-то серьёзное — нереально. Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта.
В россии осуществили сборку нового "суперкомпьютера" из китайских комплектующих!
Марий Эл Телерадио» Телеканал МЭТР» Лента новостей» Суперкомпьютер МарГУ вошёл в ТОП-20 России. Например, самый мощный суперкомпьютер в России «Червоненкис» за полгода (с июля по ноябрь) опустился в мировом рейтинге на 3 пункта (еще в июле 2022 года он занимал 22 место). В России создают суперкомпьютер, работающий на частоте 1 трлн герц. В рейтинге Тор500 самых мощных мировых суперкомпьютеров проект «Яндекс» под названием «Червоненкис» занял 19 место в общемировом зачёте, и, таким образом, стал самым мощным решением в России и Восточной Европе.
Суперкомпьютеры
По его словам, вычислительная мощность способна справляться со сложным задачами в короткие сроки. Устройство назвали в честь первого клиента Сберкассы Николая Кристофари. С 12 декабря его смогут арендовать сторонние компании, стоимость минуты использования составит 5750 рублей. Суперкомпьютер разработали SberCloud и компания Nvidia. Производительность устройства достигает 6,7 петафлопс.
Итоги Построение и эксплуатация суперкомпьютеров — интересная, но сложная задача. Экспертизы очень сильно не хватает: абсолютное большинство компаний не собирают свои суперкомпьютеры. В то же время учиться на собственных ошибках — дорогое удовольствие: простой кластера стоит десятки тысяч долларов в сутки. Поэтому для нас обмен опытом —критически важная вещь. В Шуе начнут выпускать улучшенные ноутбуки «Аквариус» с 5-ГГц процессорами Российская компания «Аквариус» планирует наладить выпуск улучшенных ноутбуков на своём производственном комплексе в Шуе, пишет «РИА Новости» со ссылкой на информацию предприятия. Ноутбук оснащён 16-дюймовым экраном с разрешением 2560 х 1600 пикселей и базируется на энергоэффективном процессоре с частотой до 5 ГГц, название которого не уточняется. Спецификации устройства включают адаптеры беспроводной связи Wi-Fi 6 и Bluetooth 5. Также опционально будет предложена установка LTE-модема. Ёмкости аккумулятора достаточно для до 13 часов автономной работы. Устройство, как сообщается, можно использовать для выполнения различных задач, в том числе для бизнеса, учёбы, работы с графическими и видеоматериалами. Также было отмечено, что новый ноутбук внесён в Единый реестр отечественной радиоэлектронной продукции Минпромторга. Для чего России суперкомпьютеры и как они создаются Что такое суперкомпьютер? Это устройство, чья производительность в сотни или даже тысячи раз превосходит возможности обычных компьютеров, которые сейчас есть практически в каждом доме. Суперкомпьютеры — универсальный инструмент, необходимый практически во всех сферах промышленности. Одна из наиболее актуальных областей, где необходима исключительная вычислительная мощь, — искусственный интеллект ИИ и машинное обучение, однако суперкомпьютер способен поднять на новый уровень любую сферу, где активно применяется цифровизация. FLoatingpoint OPerations per Second — количеством операций над числами с плавающей точкой в секунду. Самые первые суперкомпьютеры имели производительность около 1 флопс, то есть 1 тыс. Россия — одна из немногих стран мира, которая имеет собственные суперкомпьютеры и входит в глобальный топ-500 по их мощности. Создание и поддержание подобных систем — показатель высочайшего уровня работы российских IT-компаний, и с этим вряд ли кто-то будет спорить. Для чего же нужны эти супермашины? Вариантов их применения масса. Финансовая аналитика, инженерные расчеты, медицина, энергетика, государственные и оборонные цели — производительные суперкомпьютеры способны совершить революцию в каждой из этих областей. По этой причине развитие отечественной производственной базы для создания машин исключительной вычислительной мощности — одна из наиболее приоритетных задач. Еще одна отрасль, развитие которой напрямую связано с суперкомпьютерами, — искусственный интеллект ИИ. Интерес к технологии продиктован ощутимым экономическим эффектом, который дает ее применение. К 2023 году благодаря применению этих технологий компании снизили операционные расходы на 400 млрд рублей, а к 2025 году эта сумма превысит 1 трлн рублей. По словам одного из ведущих специалистов в области нейросетей и теории искусственного интеллекта, директора Института проблем управления РАН, академика Дмитрия Новикова, искусственные нейронные сети успешно применяются во многих областях. При этом, подчеркивает он, ажиотаж вокруг термина ИИ скорее вредит развитию технологий в этой области. В самом деле, если у нас будет тотально принят безмодельный подход, то зачем нам изучать в школе физику, химию, биологию и даже математику. Вместо этого мы «настроим сетку», как говорит сейчас молодежь, и она сама во всем разберется. В результате в этой области складывается очень тревожная структура знаний и компетенций», — предупреждает Новиков. Технологии будущего Академик рассказал, что возглавляемый им институт недавно организовал совместно с одним из банков хакатон по решению задач использования искусственного интеллекта в сельском хозяйстве. Когда мне коллеги рассказали о том, кто там победил, я был сначала очень удивлен, потому что в решении одной из задач победила команда, состоящая из двух старшеклассников и одного студента. Нейросети с каждым днем становятся все более привычной частью жизни простых пользователей и профессионалов, а массивы информации, требующей обработки, только увеличиваются. Для быстрого решения актуальных задач мощность суперкомпьютеров необходимо увеличивать и дальше, о чем заявил президент России Владимир Путин на конференции AI Journey, посвященной развитию ИИ. Разработка новых суперкомпьютеров в России — процесс, который непрерывно продолжается. Общая производительность кластера составляет 54,4 терафлопс 54,4 трлн операций в секунду , что позволит сотрудникам института решать сложные исследовательские задачи в области математики, физики, биологии и других наук. Кроме того, в России до 2030 года может появиться 10 новых суперкомпьютеров, по мощности многократно превышающих большинство аналогичных устройств на территории РФ. Как следует из презентации АНО «Цифровая экономика», суперкомпьютеры предложила создать подгруппа «Доверенная инфраструктура», возглавляемая вице-президентом «Ростелекома» Борисом Глазковым. В Москве запустили серийное производство материнских плат. Они изначально созданы под отечественные процессоры Их можно использовать в дисплеях, сенсорных панелях, моноблоках и телевизорах По сообщению руководителя московского Департамента инвестиционной и промышленной политики Владислава Овчинского, компания — резидент особой экономической зоны ОЭЗ «Технополис Москва» разработала и запустила в производство материнскую плату с поддержкой отечественных процессоров. Только для собственных нужд в 2024 году предприятие планирует произвести около 30 тысяч экземпляров нового продукта. Компания «Некс-Т», известная на рынке под брендом NexTouch, в месяц выпускает до четырёх тысяч единиц различных устройств, включая сенсорные панели, столы, ЖК-дисплеи и другое интерактивное оборудование — всего более 45 видов. Инженеры предприятия за 18 месяцев создали универсальную материнскую плату, которую можно использовать в дисплеях, сенсорных панелях, настольных моноблоках, телевизорах. Она сразу проектировалась под отечественные процессоры «Элвис» и «Байкал» с соответствующей схемотехникой, что обеспечивает независимость российского аппаратного обеспечения, как отметил Овчинский. Сейчас производство таких плат запущено в Зеленограде.
Тактовая частота решения составляет около 200 МГц. Благодаря параллелизму при обработке сложных моделей данных процессор способен обрабатывать до 120 млн вершин графов в секунду. Что касается системы «Тераграф», то она может работать с графами сверхбольшой размерности — до одного триллиона вершин. Такие графы могут использоваться при анализе больших данных в биоинформатике, медицине, системах безопасности городов, компьютерных сетях, финансовом секторе, при контроле сложного промышленного производства, для анализа информации социальных сетей и во многих других областях.
Справка "РГ" Считается, что первый суперкомпьютер появился уже в 1943 году. Во время Второй мировой войны британцам требовалось расшифровать немецкие сообщения. Тогда и был разработан компьютер "Колоссус", в котором насчитывалось 1500 ламп. Одним из первых суперкомпьютеров в США стал Атанасова-Берри массой в 27 тонн, он выполнял 357 операций умножения или 5 тысяч операций сложения в секунду. В нем было более 17 тысяч ламп. В 60-х годах прошлого века лидером этого направления стал талантливый американский инженер Сеймур Крей. Созданный им в середине 70-х годов суперкомпьютер "Крей-1" выполнял 240 миллионов операций в секунду. Он на порядки превосходил все аналогичные машины того времени.
В МГТУ им. Баумана разработали суперкомпьютер, находящий неочевидные связи
В космосе может появиться российский суперкомпьютер. Причём в первых реализациях таких гибридных суперкомпьютеров могут потребоваться квантовые сопроцессоры на различных физических платформах для различных алгоритмов. Академик РАН Игорь Каляев предложил объединить все суперкомпьютеры России в единую инфраструктуру под управлением искусственного интеллекта. Ректор МГУ некоторое время назад заявлял о том, что «МГУ-270» не имеет аналогов среди подобных систем в университетах мира и является вторым или третьим по мощности среди всех действующих суперкомпьютеров. Российский президент Владимир Путин сообщил, что необходимо не менее чем на порядок нарастить мощности суперкомпьютеров России. По количеству суперкомпьютеров в Top-500 Россия вышла на 9 место в мире — в РФ столько же систем, сколько в Южной Корее. Другие интересные новости читайте в нашем Telegram-канале.
«Сбербанк» представил самый мощный в России суперкомпьютер
ИНТЕРФАКС – В МГУ имени М.В. Ломоносова ректор Виктор Садовничий открыл новый суперкомпьютер, обладающий специализированной архитектурой, сообщает вуз. Что с суперкомпьютерами в России сейчас? Стартовал второй день крупнейшей международной онлайн-конференции по искусственному интеллекту, которую организовал Сбер. Там представили новый суперкомпьютер "Кристофари Neo". Он стал первым суперкомпьютером, созданным на основе российской коммутируемой сети «Ангара». Новости На суперкомпьютере Tianhe-2 запущена платформа Ubuntu OpenStack (2014). Новый суперкомпьютер представили в Московском государственном университете имени М.В. Ломоносова в начале учебного года.
Вот это прорыв: Россия попала в мировой топ самых мощных суперкомпьютеров
Президент РФ назвал очевидным то, что с внедрением искусственного интеллекта ИИ человечество начинает новую главу. Ранее он назвал монопольное доминирование в России западных платформ искусственного интеллекта опасным и недопустимым явлением. По мнению президента, в сфере создания систем искусственного интеллектам необходимо использовать российские решения. Еще Путин заявил, что в ближайшее время будет утверждена новая стратегия развития искусственного интеллекта. По словам президента, в новую редакцию стратегии внесут ряд значительных изменений, будут конкретизированы цели и задачи.
Сейчас мы такую задачу можем решить за несколько часов, но об этом позже. Мы попробовали собрать «нулевой» кластер буквально из того, что было под рукой. Результаты замеров показали низкий КПД масштабирования. В попытках понять причину придумали методику оценки, которая не требовала глубокого понимания алгоритма работы конкретного обучения. Достаточно построить график потребления энергии и обмена трафиком в одном масштабе. Обучение идет повторяющимися итерациями: 1. Каждый GPU получает свой batch и обсчитывает его синяя ступенька 2. Затем GPU обменивается по сети с соседями посчитанными результатами зелёная ступенька 3. GOTO 1 На графике сразу же виден корень проблемы. Не самый эффективный способ использовать железо, согласитесь. Эксперименты на таком кластере проводить можно, но считать что-то серьёзное — нереально. Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта. Попутно столкнулись и с другими сложностями. Яндекс, в свою очередь, уже много лет живёт в дата-центрах IPv6-only. Фиксы, кстати, выкладываем в опенсорс. Первые кластеры Первый мини-кластер GPU, созданный специально под задачи применения трансформеров c учётом описанных выше узких мест, появился у нас во владимирском дата-центре летом 2020 года. В кластере было 62 узла по 8 GPU в каждом — всего 496 видеокарт. Казалось бы, сотни видеокарт! Но этого по-прежнему было мало для наших задач, хотя кластер и помог нам начать внедрять трансформеры для улучшения Поиска. Затем в другом нашем ДЦ, в городе Сасово в Рязанской области, появился первый большой кластер. Мы назвали его в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе кибернетики и теории машинного обучения. Пришлось искать причины и оптимизировать. Коллеги из локального офиса NVIDIA посоветовали потратить ещё несколько дней на замеры производительности, чтобы зарегистрировать кластер в списке Top500. Но в тот момент мы от этого отказались: торопились отдать кластер нашим ML-инженерам, чтобы загрузить его работой уже на новогодние праздники. Тем более, что тогда мы ещё не осознавали никакой практической пользы от замеров. Логично было распространить этот опыт и на GPU. Для размещения кластеров выбрали недавно переданные в эксплуатацию модули в дата-центрах Сасово и Владимира. Сами кластеры назвали соответственно «Червоненкис» в честь Алексея Червоненкиса, одного из крупнейших теоретиков машинного обучения и «Галушкин» Александр Галушкин — один из главных исследователей теории нейронных сетей. Размер обусловлен встроенной системой охлаждения. Они связывают GPU для вычислений. Это продиктовано энергопотреблением — до 20 кВт. Cloud, но об этом поговорим в другой раз. Обратите внимание на отсутствие любых декоративных пластиковых элементов. Зато есть много свободного места, чтобы воздух мог обдувать огромные радиаторы GPU в центре, именно за счёт этого получается экономить электричество на охлаждении. В кластере 199 серверов с GPU — такое количество обусловлено экономической целесообразностью сборки ядра Infiniband по стандартной схеме на 800 портов с использованием 40-портовых 1U HDR-коммутаторов. Двухсотый сервер не имеет GPU в своем составе и используется для управления сетью Infiniband. Это позволило создавать кластеры в два раза большего размера по сравнению с коробочным решением SuperPod. Например, вот так выглядят типичные итерации обучения. О г—Замеры После успешного решения этих и других проблем мы наконец-то получили заветное линейное масштабирование на 152 хостах, доступных на тот момент. Получилось 15,2 петафлопса. Но была одна проблема: пока мы настраивали кластер, закрылось окно подачи в июньский рейтинг. Мы опоздали буквально на одну неделю. Поэтому решили взять паузу с замерами linpack до осени. За это время мы внедрили все найденные оптимизации на новых кластерах и отдали их пользователям — разработчикам и инженерам внутри компании. Кластер «Ляпунов» решили пока не выводить на обслуживание, потому что он в два раза меньше и у нас не было уверенности, что в нём проявится баг с адаптивным роутингом. Обслуживание означало задержку в расчётах критически важных ML-обучений.
Площадь технологических модулей составит примерно 62 400 квадратных метров, и на этой территории будет размещено не менее 3 000 стоек с вычислительными устройствами, примерно 120 000 серверов. Предполагаемый объем потребления электроэнергии дата-центром составит до 82 мегаватт.
Также Путин указал на то, что необходимо значительно расширить подготовку кадров в области искусственного интеллекта, а еще создавать инфраструктуру для его широкого использования в стране. Президент также поручил правительству сформировать образовательную программу по искусственному интеллекту для руководителей компаний и органов власти. Владимир Путин добавил, что это критически нужно для будущего развития генеративного искусственного интеллекта. Глава российского государства призвал правительство и организации страны обратить внимание на данное поручение, которое будет отражено в готовящемся нацпроекте по формированию экономики данных. Поделиться Путин заявил, что мечтает о быстрой эволюции в сфере ИИ Путин заявил, что мечтает о быстрой эволюции в сфере ИИ Также на полях конференции Путин заявил, что запретить развитие искусственного интеллекта нельзя.
Путин поручил увеличить вычислительные мощности суперкомпьютеров в России
все самое важное и интересное из отрасли связи, IT и телекоммуникаций. Один из пяти самых мощных суперкомпьютеров, которые установлены в российских вузах, находится в Севастопольском государственном университете. 9.2. Суперкомпьютеры, установленные в Российской Федерации. На ноябрь 2022 года в списке Top500 имелись 7 машин, установленных в России. Суперкомпьютер Яндекса «Червоненкис» занял 19-ю строчку всемирного рейтинга суперкомпьютеров Top500, став самой производительной системой в России и Восточной Европе. В России создают суперкомпьютер, работающий на частоте 1 трлн герц.