В понедельник Meta объявила, что работает над созданием самого быстрого суперкомпьютера с искусственным интеллектом в мире.
Компания Meta, получившая название SuperCluster AI Research (RSC), утверждает, что он «одни из самых быстрых суперкомпьютеров AI, работающих сегодня» и станет самым быстрым в мире, когда он будет полностью построен к середине 2022 года. Компания начала проектировать новую вычислительную инфраструктуру в начале 2020 года, чтобы ускорить процесс обучения крупных моделей искусственного интеллекта с целью обучения за один день моделей с более чем триллионом параметров данных, что эквивалентно 36 000 годам высококачественного видео.
«В конечном итоге работа, проделанная с RSC, проложит путь к созданию технологий для следующей крупной вычислительной платформы — метавселеннаягде приложения и продукты на основе искусственного интеллекта будут играть важную роль», — материнская компания Facebook. написал в блоге.
Meta заявляет, что стремится к долгосрочным инвестициям в искусственный интеллект с 2013 года, когда создала Исследовательская лаборатория искусственного интеллекта Facebook. Первое поколение высокопроизводительной вычислительной инфраструктуры исследовательской группы Meta в области искусственного интеллекта было построено в 2017 году и включает 22 000 графических процессоров NVIDIA V100 Tensor Core в одном кластере.
«Сегодня RSC включает в себя в общей сложности 760 систем NVIDIA DGX A100 в качестве вычислительных узлов и в общей сложности 6080 графических процессоров, причем каждый графический процессор A100 более мощный, чем V100, использовавшийся в нашей предыдущей системе», — сообщает компания. Хотя суперкомпьютер в настоящее время работает, компания заявляет, что планирует увеличить количество графических процессоров до 16 000.
«Вся эта инфраструктура должна быть чрезвычайно надежной, поскольку, по нашим оценкам, некоторые эксперименты могут длиться неделями и требовать тысяч графических процессоров. Наконец, весь опыт использования RSC должен быть удобен для исследователей, чтобы наши команды могли легко исследовать широкий спектр моделей ИИ», — добавляет Мета.
