MIT и IBM развивают ИИ и квантовые технологии для внедрения

MIT-IBM Computing Research Lab помогает переводить академические работы в прикладные системы IBM: бывшие исследователи MIT Чжан-Вэй Хун, Ирен Ко и Шринивасан Аруначалам развивают соответственно ИИ-агентов, надёжный ИИ и квантовое машинное обучение. Лаборатория, ранее работавшая как MIT-IBM Watson AI Lab, стала площадкой для сотрудничества MIT и IBM на стыке теории и инженерных ограничений.

Все три направления объединяет задача перенести идеи из исследовательской среды в системы, которые должны работать с реальными данными, инфраструктурой и ограничениями вычислительных платформ. При этом исследователи сохраняют акцент на проверяемости методов и фундаментальных основаниях результатов.

Агенты и контроль поведения языковых моделей

Чжан-Вэй Хун начал работу в аспирантуре MIT в 2020 году и занимался обучением с подкреплением, включая улучшение обучения функций ценности на игре Montezuma’s Revenge для Atari. В сотрудничестве с лабораторией он разрабатывал способы сделать ИИ более применимым к реальным задачам и улучшить обратную связь по вознаграждению; эти подходы он использовал в робототехнике, больших языковых моделях и научных задачах.

В IBM Хун изучает открытое обучение с подкреплением, test-time training для агентов и базовых моделей, а также инфраструктуру агентной платформы для корпоративных сценариев. Среди примеров названы чтение графиков и вызов инструментов для запросов к базам данных. Исследователь также рассматривает эволюционные вычисления для оптимизации исследования и использование нейронаучных идей для улучшения модели во время развёртывания.

Ирен Ко сотрудничала с исследователями IBM с первого дня аспирантуры благодаря финансированию MIT-IBM. Её работа посвящена безопасному, устойчивому, точному и справедливому ИИ. После защиты диссертации в 2024 году она пришла в IBM Research и продолжила исследовать методы, которые могут применяться в платформах инференса.

Один из её проектов, vLLM Hook, представляет собой лёгкий плагинный фреймворк для движка инференса vLLM. Он даёт доступ к внутренним сигналам модели, включая скрытые состояния и активации, при декодировании LLM. Это позволяет анализировать показатели безопасности, в том числе вероятность prompt injection и галлюцинаций, без использования low-rank adapters, требующих дополнительных шагов для мониторинга и изменения поведения модели.

Квантовые алгоритмы с учётом ограничений устройств

Шринивасан Аруначалам пришёл в MIT постдоком в 2018 году и затем начал сотрудничать с MIT-IBM Computing Research Lab и исследователем IBM Кристаном Темме. В IBM он сосредоточился на задачах, которые потенциально можно реализовать на квантовых устройствах ближайшего поколения, учитывая шум, архитектуру ближайших соседей и более простые измерения наблюдаемых.

В числе результатов его исследований — работа по изучению гамильтонианов с формальными гарантиями восстановления динамики квантовых систем и работа по квантовым ядрам. Последняя даёт теоретические свидетельства того, что квантовые пространства признаков могут иметь преимущества перед классическими ядрами при широко принимаемых предположениях о вычислительной сложности.

Что это означает для компаний

Опыт MIT и IBM показывает, что внедрение ИИ и квантовых методов требует одновременной работы с теорией, ограничениями оборудования и механизмами эксплуатации. Для бизнеса практический вывод состоит в необходимости оценивать не только обещания модели или алгоритма, но и возможность встроить его в контур инференса, данных и контроля рисков.