OpenAI, Anthropic и Google DeepMind ведут переговоры о безопасности ИИ

OpenAI, Anthropic и Google DeepMind уже несколько недель обсуждают вопросы безопасности искусственного интеллекта. Об этом во вторник сообщил журналистам руководитель глобальной политики OpenAI Крис Лехейн, находящийся в Вашингтоне для работы с законодателями над рисками наиболее мощных ИИ-систем.

Переговоры крупнейших лабораторий

Сообщение Лехейна подтвердило, что три разработчика ведут прямой диалог о безопасности. Ранее о частных обсуждениях с другими лидерами индустрии говорил глава OpenAI Сэм Альтман, а The Information сообщало о работе компаний над созданием органа по стандартам для ИИ-отрасли.

Контекстом для переговоров стало эссе главы Anthropic Дарио Амодеи, опубликованное в субботу. Он призвал участников рынка совместно снизить темп развития передовых моделей, чтобы не допустить катастрофических рисков. Этот призыв поддержали Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск.

OpenAI, по словам Альтмана, готова вместе с Anthropic встроить в процессы независимых внешних оценщиков, которые будут следить за безопасностью. Практика, при которой независимая внешняя оценка безопасности ИИ становится частью контроля разработки, предполагает доступ внешних организаций к проверке того, как создаются модели.

Регулирование и риск антимонопольных претензий

Координация конкурирующих компаний может привлечь внимание антимонопольных органов, если будет признано, что она подавляет конкуренцию. Амодеи предлагал узкое государственное исключение, которое разрешило бы совместную работу именно по безопасности. Лехейн, однако, заявил, что такое исключение компаниям не требуется.

Во вторник Лехейн также сказал, что OpenAI поддерживает положение законопроекта FRONTIER Act. Оно обязывает ведущие лаборатории допускать в компании «независимые организации по верификации», чтобы подтверждать безопасную разработку моделей.

Демис Хассабис еще в июле призывал США создать надзорный орган по стандартам ИИ. По его предложению, такой орган мог бы проверять самые передовые модели и координировать общеотраслевое замедление при росте опасностей.

Что это означает для компаний

Переговоры OpenAI, Anthropic и Google DeepMind не означают появления готового стандарта или новой обязательной нормы. Но они показывают, что независимая оценка моделей и единые подходы к безопасности становятся предметом обсуждения одновременно у разработчиков и законодателей. Бизнесу, использующему генеративный ИИ, стоит учитывать наличие внешней проверки и прозрачных процедур безопасности при оценке поставщиков.