MIT разработал HardFlow для генеративного ИИ с жёсткими ограничениями
Исследователи Массачусетского технологического института разработали алгоритм HardFlow для генеративного ИИ, который помогает соблюдать обязательные ограничения безопасности, физики или конкретной задачи. В экспериментах с роботизированными манипуляторами, навигацией в лабиринтах и редактированием изображений по текстовому запросу метод обеспечил стопроцентное выполнение ограничений и превзошёл базовые подходы по качеству решений.
Работу выполнили Навид Азизан, Зеян Ли и Каве Алим; статья «HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization» опубликована в IEEE Transactions on Pattern Analysis and Machine Intelligence. Подход рассчитан на применение уже при развёртывании и не требует переобучать готовую генеративную модель.
Почему «почти правильного» ответа недостаточно
Генеративные модели умеют находить правдоподобные варианты, преобразуя случайный шум в новые данные. Однако для задач с высокой ценой ошибки этого мало. Например, маршрут робота на загруженном производстве должен не просто вести к нужной точке, а исключать столкновение с человеком или препятствием.
Для подобных случаев применяют выборку с проекцией: промежуточные варианты решения многократно принудительно приводят к заданным требованиям. По наблюдению авторов, такой контроль на каждом шаге ограничивает поиск и способен помешать модели прийти к более качественному финальному результату. При этом существующие методы часто сосредоточены только на выполнимости условий, не оптимизируя другие свойства, например длину траектории.
Как работает HardFlow
HardFlow не требует, чтобы каждому промежуточному состоянию соответствовали жёсткие условия. Вместо этого алгоритм направляет траекторию генерации так, чтобы обязательные требования выполнялись на выходе. Авторы сформулировали эту задачу как оптимизацию траектории, используя инструменты теории оптимального управления.
Чтобы сделать расчёт применимым к крупным нейросетям со множеством взаимосвязанных слоёв, команда использовала структуру flow-matching-моделей. Задачу разделили на последовательность более компактных одношаговых подзадач, затем применили преобразования и приближения для получения масштабируемого алгоритма.
Такая постановка позволяет одновременно учитывать ограничения и дополнительные цели. В примере с роботом система может найти путь без столкновений, который также будет самым коротким до целевого объекта. В тестах роботизированный манипулятор избегал препятствий и выбирал наиболее быстрый путь; другие методы либо допускали столкновения, либо строили существенно более долгие маршруты. Время вычислений HardFlow было сопоставимо или ниже, чем у большинства сравниваемых методов.
Что это меняет для внедрения
HardFlow ориентирован на предобученные flow-matching-модели и может подключаться без их повторного обучения. Для бизнеса практический вывод состоит в том, что при внедрении генеративного ИИ в физические и регулируемые процессы стоит отдельно проверять формальные ограничения конечного результата: высокая правдоподобность ответа не заменяет гарантированное соблюдение критичных правил.