MIT расширил обзор рынка ИИ-ускорителей до 120 систем

Команда Lincoln Laboratory Supercomputing Center при MIT в новом выпуске Lincoln AI Computing Survey изучила более 120 коммерческих ИИ-ускорителей. Первый обзор, начатый в 2018 году, включал 57 систем; нынешняя, шестая работа серии сопоставляет пиковую производительность и пиковое энергопотребление доступных решений.

Проект ведёт сотрудник центра Альберт Ройтер совместно с Майклом Джонсом, Питером Михалеасом, Джереми Кепнером и Виджаем Гадепалли. Авторы также взаимодействуют с подразделениями Lincoln Laboratory, чтобы понимать, как ускорители применяются в исследовательских и прикладных задачах.

Какие устройства вошли в сравнение

Под ИИ-ускорителями исследователи понимают специализированные системы для нейросетей, глубокого и машинного обучения. При этом такие вычислители могут использоваться и в других параллельных задачах: моделировании функций молекул и ускорении расчётов гидродинамики.

В обзоре представлены центральные процессоры, графические процессоры, специализированные интегральные схемы, программируемые логические матрицы и dataflow-ускорители. CPU пригодны для вычислений общего назначения, тогда как ASIC ориентированы на узкие функции. GPU, FPGA и dataflow-решения обладают большей гибкостью для различных нагрузок.

Авторы группируют продукты по формату: отдельный чип, плата или полноценная система. Базовыми метриками остаются пиковая производительность и пиковая мощность. Все значения собраны из публичных источников, но полнота данных ограничена тем, что некоторые компании не раскрывают характеристики производительности и энергопотребления.

Рынок продолжает меняться

Для обновления базы Ройтер ежедневно отслеживает технические новости, публикации, корпоративные объявления и отраслевые презентации. По его словам, ежегодно появляются ещё пять—десять профинансированных стартапов, которые анонсируют и выпускают новые ИИ-ускорители. За несколько последних месяцев шесть стартапов представили первые продукты этого класса.

Каждый выпуск серии рассматривает и отдельный технологический вопрос. Работа 2022 года связывала рост производительности с более компактными и плотными транзисторными конструкциями, а также с переходом к меньшей числовой точности вычислений. Последний отчёт анализирует архитектурные варианты, включая увеличение числа ядер процессора и возможности параллельной обработки.

Зачем нужен независимый срез

MIT Lincoln Laboratory использует результаты обзоров при выборе GPU для будущих закупок систем LLSC. Материалы также помогают спонсорам лаборатории и государственным коллегам принимать решения об исследованиях и приобретении оборудования.

Для бизнеса вывод состоит в том, что при выборе инфраструктуры для ИИ недостаточно сравнить одну заявленную скорость. Следует соотносить производительность с энергопотреблением, форм-фактором и типом вычислителя, а затем проверять их применимость к конкретной параллельной нагрузке.