Гарри Тан предложил разрешить дистилляцию закрытых ИИ-моделей в США

Глава Y Combinator Гарри Тан предложил не ограничивать американские лаборатории с открытыми весами в использовании дистилляции закрытых передовых ИИ-моделей США. Под дистилляцией он понимает обучение через большое число запросов к другой модели, чтобы изучить особенности её работы и рассуждений.

Спор о допустимых границах

Идея Тана прозвучала на фоне новой публикации Anthropic. Компания заявила, что китайские лаборатории проводили «незаконные атаки дистилляции»: скрывали свою личность, использовали мошенничество и украденные учётные данные, чтобы получать доступ к её системам. Глава Anthropic Дарио Амодеи ранее публично призывал американских регуляторов пресечь дистилляцию.

Тан не предлагает разрешать кражу доступов или обход правил. Его позиция состоит в том, что американские разработчики должны иметь возможность действовать открыто, обращаясь к владельцам закрытых моделей через обычные каналы доступа. Он сказал CNBC, что ничего бы не предпринимал для ограничения практики, и допустил появление «американского режима дистилляции».

Дистилляция сама по себе широко применяется разработчиками ИИ для обучения новых моделей. Предметом конфликта становятся условия, при которых она проводится: владельцы передовых систем стремятся контролировать автоматизированные запросы и извлечение их поведения, тогда как Тан ставит вопрос о границах такого контроля.

Открытые веса как альтернатива

Глава Y Combinator считает чрезмерным право компаний определять, что клиенты могут делать с информацией, полученной от модели через API. Он также указывает, что создатели закрытых моделей обучали системы на обширных массивах человеческих знаний, включая защищённые авторским правом материалы без разрешения правообладателей.

По его мнению, доступ к интеллекту, обученному на данных широкого публичного доступа, должен в большей степени рассматриваться как общественное благо, а не как актив, полностью закрытый ограничительными условиями обслуживания. В этой логике малые американские лаборатории могут формировать больше вариантов open-weight-моделей, не зависящих от китайских разработчиков.

Контекст для этой дискуссии задаёт регулирование open-weight-моделей и показывает, почему регулирование open-weight-моделей влияет не только на безопасность, но и на доступность технологий. Тан при этом не выступает против передовых закрытых лабораторий: они, по его словам, двигают отрасль вперёд и должны сохранять жизнеспособную, финансируемую бизнес-модель.

Практический смысл для компаний

Главным риском Тан называет ситуацию, в которой все возможности передового ИИ сосредоточатся у одной крупной закрытой компании с максимальным доступом к капиталу и исследователям. Открытые веса он рассматривает как способ сохранить свободу выбора и доступ к моделям.

Для бизнеса из этой позиции следует практический вывод: при выборе ИИ-поставщика стоит отдельно оценивать условия API, допустимые способы обучения собственных решений и степень зависимости от одной закрытой платформы. Вопрос дистилляции остаётся предметом спора, но различие между легальным доступом и действиями с мошенничеством или похищенными учётными данными должно быть принципиальным.