Обама призвал демократов подготовить ясный план по безопасности AI

Бывший президент США Барак Обама призвал Демократическую партию сделать искусственный интеллект одним из центральных направлений работы и подготовить ясный план по вопросам безопасности и экономического воздействия технологии. На мероприятии по сбору средств его интервьюировал лидер демократов в Палате представителей Хаким Джеффрис.

Как сообщает The New York Times, Джеффрис спросил Обаму о том, как демократам в Конгрессе следует подходить к AI. В частичной расшифровке, предоставленной газетой офисом бывшего президента, Обама заявил: после возвращения большинства в Палате представителей партии нужно сформировать рамки для «очень публичного разговора» о технологии.

Публичная дискуссия и контроль над быстрорастущей технологией

Обама подчеркнул, что AI очень быстро развивается в руках частных компаний. По его оценке, отсутствие своевременного контроля может быть опасным, тогда как правильный подход способен принести пользу.

В качестве примера положительного эффекта он назвал ускорение разработки лекарств, которое может помочь в лечении болезней. При этом конкретных законодательных мер или сроков бывший президент не предложил.

Джеффрис в отдельном заявлении согласился с необходимостью решительных действий в сфере искусственного интеллекта. Он также обвинил республиканцев в отказе от ответственности за управление в интересах американцев.

Предложения Anthropic и позиция OpenAI

Обама предлагал себя в качестве собеседника для руководителей AI-компаний и разговаривал с генеральным директором Anthropic Дарио Амодеи и главой OpenAI Сэмом Альтманом. Его заявления прозвучали на фоне усиления дискуссии о безопасности передовых моделей.

В частности, исследователь Anthropic, покинувший компанию, заявил, что ведущие разработчики соревнуются в создании самосовершенствующегося сверхинтеллекта и рискуют жизнями людей. В ответ на эту повестку Амодеи изложил общий подход к «сдерживанию передового рубежа» разработки AI.

Среди предложенных мер — доступ независимых оценщиков безопасности к ведущим AI-компаниям и их моделям, а также выработка общих стандартов безопасности между компаниями. Альтман написал, что OpenAI также готова предоставить независимым оценщикам доступ, сопоставимый с доступом сотрудников.

Политический контекст

Президент Дональд Трамп также затронул тему безопасности AI в разговоре с журналистами во время мероприятия в Ирландии. Он заявил, что США должны сохранить технологическое лидерство, и сказал, что для AI можно установить защитные ограничения.

Для бизнеса дискуссия показывает, что в США растет внимание не только к возможностям AI, но и к процедурам контроля над передовыми моделями. Компаниям, создающим и внедряющим такие системы, стоит учитывать возможный запрос на независимую оценку и единые требования безопасности.