Карл III призвал лидеров ИИ-индустрии не терять контроль над технологией

Король Великобритании Карл III провёл в Дамфрис-хаусе в Шотландии закрытую встречу с руководителями ИИ-компаний и представителями правительства. В ней участвовали гендиректор Nvidia Дженсен Хуанг, представители OpenAI и Anthropic, новый министр ИИ Великобритании Канишка Нараян, глава внешней разведки страны, а также советник папы римского по ИИ Паоло Бенанти.

В обращении к участникам король призвал создать достаточные механизмы контроля над искусственным интеллектом «до того, как станет слишком поздно». Он охарактеризовал быстрое развитие технологии и её последствия как одновременно интригующие и глубоко тревожные.

Польза ИИ и риск опасного применения

Карл III отметил, что ИИ уже демонстрирует значительный потенциал для улучшения и спасения жизни, в частности в медицине и науке. Одновременно, по его словам, создатели технологий всё чаще предупреждают, что системы могут приобрести более мрачные возможности, в том числе способность отнимать жизнь.

Отдельно король указал на «экзистенциальные опасности», возникающие, если технология попадёт не в те руки и будет использована потенциально катастрофическим образом. Он поставил перед собравшимися задачу не только развивать ИИ, но и гарантировать, что он останется на службе человечества, общества и природного мира.

Встреча представителей индустрии и государства

OpenAI на встрече представляла финансовый директор Сара Фрайар, Anthropic — руководитель глобальных отношений Тино Куэльяр. Куэльяр заявил, что компания признательна королю за возможность собрать лидеров отрасли и представителей общества для разговора о роли ИИ в общественном благе.

Карл III оставался на саммите около 20 минут, после чего участники продолжили обсуждение. Это не первое его публичное высказывание о преимуществах и вызовах ИИ: он затрагивал эту тему также в 2023 и 2024 годах. Однако нынешняя встреча прошла на фоне особенно заметных споров о темпах развития систем и вопросах их безопасности.

Почему это важно компаниям

Призыв короля был обращён к международному сотрудничеству и поиску согласия в вопросе применения ИИ. Для компаний, внедряющих такие инструменты, практический вывод состоит в необходимости параллельно с полезными сценариями заранее определять контроль доступа, ответственных за использование систем и рамки безопасного применения технологии.