Хинтон, Ли и Ын призвали к взвешенной открытости ИИ
На конференции Ai4 в Лас-Вегасе лауреат Нобелевской премии Джеффри Хинтон, гендиректор World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Ын обсудили будущее открытых ИИ-моделей. Все трое выступили против концентрации контроля над развитием технологии у нескольких крупных компаний, но по-разному оценили публикацию весов обученных моделей.
Ын заявил, что не хочет появления «привратников», ограничивающих доступ к ИИ. По его мнению, конкуренция между несколькими разработчиками и поставщиками важнее сценария, при котором рынок определяет небольшая группа наиболее капитализированных компаний.
Открытый код и открытые веса — не одно и то же
Хинтон отдельно разграничил open source и open weights. В первом случае сообщество может изучать и менять программный код, находя ошибки. Во втором публикуются параметры уже обученной крупной модели, на создание которой потребовались значительные ресурсы.
Именно открытые веса, по словам Хинтона, упрощают дешёвую донастройку фундаментальных моделей для вредоносных задач, включая кибератаки. При этом он признал, что запретить этот подход уже невозможно: открытые модели стали устойчивой частью рынка, а барьер в виде стоимости обучения базовой модели для многих участников исчез.
Дискуссия о рисках не сводится к отказу от технологии. Хинтон считает, что ИИ способен повышать производительность и улучшать образование и здравоохранение, однако опасения по поводу возможных негативных последствий нельзя автоматически считать нагнетанием страха.
Конкуренция, влияние и разные уровни доступа
Ын связал открытость с конкурентоспособностью. Он отметил, что более дешёвые модели получают преимущество при внедрении, а массовое распространение открытых моделей из Китая в Азии, Африке и развивающихся странах может влиять на то, как миллиарды людей получают доступ к идеям о демократии, свободе и правах человека.
При этом Ли отвергла выбор между полной открытостью и полной закрытостью как ложную дилемму. Она привела пример ядерной физики: научные статьи доступны публично, уран регулируется, а лабораторная работа занимает промежуточное положение. По её оценке, разные уровни экосистемы ИИ могут иметь разные режимы доступа.
Ли также напомнила о сотрудничестве публичных и частных институтов, включая Human Genome Project. Открытое знание может становиться основой для научной работы и коммерческих продуктов одновременно. В контексте споров об ограничениях открытых весов споры об ограничениях открытых весов показывает, почему отрасль выступает против широких запретов без учёта конкретных рисков.
Что это означает для компаний
Участники дискуссии согласились, что регулирование необходимо, чтобы направлять развитие ИИ на пользу людям. Для бизнеса это означает необходимость оценивать не только стоимость и доступность модели, но и режим распространения, возможности контроля, сценарии злоупотреблений и применимые требования регулирования. Универсального ответа в пользу исключительно открытых или закрытых решений спикеры не предложили: выбор зависит от уровня технологии и задач внедрения.