Дарио Амодеи: негатив к ИИ связан с кризисом доверия
Генеральный директор Anthropic Дарио Амодеи заявил, что негативная реакция общества на искусственный интеллект связана прежде всего с кризисом доверия, а не с публичными предупреждениями руководителей ИИ-компаний. Он ответил инвестору Гэвину Бейкеру, который критиковал мрачную, по его мнению, риторику Anthropic и её поддержку отдельных требований к регулированию крупных разработчиков ИИ.
Спор о том, кто формирует отношение к ИИ
Бейкер утверждал, что предупреждения об опасностях ИИ усилили скепсис в США, в том числе протесты вокруг дата-центров. Он также написал, что Амодеи проиграл спор о регулировании и должен быть более позитивным представителем собственной отрасли.
Амодеи с этой оценкой не согласился. По его словам, его публичные тексты в равной степени посвящены рискам и выгодам технологии. Эссе Machines of Loving Grace он написал потому, что, как он считает, индустрия недостаточно вдохновляюще описывала возможности ИИ радикально улучшить мир.
При этом глава Anthropic признал, что у публики сложилось негативное отношение к ИИ и что это серьёзная проблема. Однако он не считает, что её главным источником стали заявления отдельных лидеров отрасли о рисках.
Недоверие важнее маркетинговой риторики
Амодеи назвал происходящее фундаментальным кризисом доверия. По его формулировке, обычные люди не доверяют компаниям, правительствам и технологической индустрии и подозревают их в попытках использовать очередную новинку во вред пользователям.
Он добавил, что это недоверие формировалось десятилетиями, а нынешняя реакция на ИИ стала лишь его новой формой. Самой точной претензией к ИИ-компаниям, включая Anthropic, Амодеи назвал то, что они пока не реализовали масштабные обещания принести пользу миру. С этой критикой, по его словам, ответственность лежит на самих компаниях.
Контекстом для дискуссии остаётся спор вокруг Anthropic и влияния Mythos на бизнес, где конфликт вокруг Anthropic показывает, как политические и корпоративные споры влияют на восприятие компании. Амодеи подчеркнул, что Anthropic пытается исправить ситуацию, но не сводит её к коммуникациям и маркетингу.
Как Anthropic видит регулирование
В вопросе регулирования Амодеи отверг представление о ложной развилке: либо ИИ широко распространяется без правил, либо регулирование концентрирует технологию у нескольких игроков. Он отметил, что в Кремниевой долине регулирование часто автоматически связывают с захватом регулятора и усилением крупных компаний.
При этом многие за пределами технологической среды, отметил Амодеи, воспринимают правила как способ ограничить власть корпораций и защитить обычных людей. Он не сказал, что полностью разделяет такую позицию, но объяснил, почему Anthropic осторожно формулирует политические предложения.
Компания стремится предлагать меры, которые замедляют разработчиков передовых ИИ-моделей, но дают преимущества меньшим конкурентам. Для бизнеса этот спор означает, что внедрению ИИ недостаточно технической эффективности: необходимо подтверждать практическую пользу, понятно объяснять ограничения и учитывать доверие сотрудников, клиентов и общества.