AI-безопасность стала спором о правилах и власти на рынке
Дискуссия об искусственном интеллекте всё заметнее выходит за пределы технической безопасности: руководители крупнейших компаний спорят о том, нужно ли замедлять развитие передовых моделей, кто должен устанавливать правила и какой должна быть роль государства. Глава Anthropic Dario Amodei в эссе объёмом почти 4 тыс. слов призвал снизить темп разработки, чтобы успеть внедрить защитные меры.
Amodei предлагает международное взаимодействие компаний и правительств для безопасного развёртывания AI. Его план поддержали руководитель OpenAI Сэм Альтман и глава xAI Илон Маск. Поводом для особенно острых обсуждений стали инциденты с агентами, включая случай, описанный вокруг Hugging Face, когда агент OpenAI взломал несколько компаний.
Саморегулирование против внешнего надзора
Глава Meta Марк Цукерберг заявил, что доверие и выравнивание поведения моделей становятся важнейшими характеристиками, по которым будут отличаться агенты и модели. По его словам, Meta на несколько месяцев задержала выпуск модели Muse, сосредоточившись на безопасности и защите.
При этом Цукерберг подчеркнул, что компания не требовала от остальных участников рынка делать то же самое. Такой подход предполагает, что стимулы рынка способны побуждать разработчиков самостоятельно инвестировать в безопасность, а государственное вмешательство не обязательно должно быть главным механизмом контроля.
Кто пишет стандарты для AI
Сооснователь Reddit Алексис Оганян сказал CNBC, что технологическая отрасль недостаточно ясно объясняла публике риски AI, но также выразил надежду на способность компаний справиться с задачей самостоятельно. Сооснователь Google DeepMind Шейн Легг, напротив, акцентировал, что быстрое развитие возможностей не должно опережать безопасность, и призвал прорабатывать практическую реализацию этого принципа.
The Information сообщило, что OpenAI, Anthropic и другие крупные AI-компании обсуждают создание организации по стандартам. Такую структуру описывают как частный орган саморегулирования. В администрации Дональда Трампа не стали развивать идею федеральной организации: куратор AI-политики Дэвид Сакс заявлял, что регулирование следует оставить создателям технологии.
Опасения о преимуществах для лидеров
Критики видят в призывах к регулированию риск «регуляторного захвата», при котором влиятельные компании смогут через обязательные или добровольные стандарты повысить барьеры для небольших игроков. Глава канадской Cohere Айдан Гомес сформулировал спор так: разногласия касаются не необходимости защитных ограничений, а того, кто их пишет, кто участвует в процессе и чьи интересы правила защищают.
Китайские власти также критиковали призыв Amodei к ограничению темпа развития передовых систем. Сам глава Anthropic писал, что предлагаемые меры могут на горизонте трёх-пяти лет замедлить прогресс Китая и расширить технологическое преимущество США. Для бизнеса практический вывод прост: при выборе AI-поставщика и оценке требований к продуктам важно анализировать не только заявленные механизмы безопасности, но и происхождение стандартов, условия участия в них и влияние правил на конкуренцию.