AI-компании спорят о темпе развития и правилах безопасности

Глава Anthropic Дарио Амодеи предложил «задавать темп» развитию передового ИИ, тогда как гендиректор Nvidia Дженсен Хуанг публично отверг необходимость замедления и нового регулирования. В подкасте TechCrunch Equity участники обсудили, могут ли Anthropic, OpenAI и другие разработчики действительно ограничить темпы внедрения моделей и какие меры безопасности за этим стоят.

Что предлагают сторонники «темпа»

Обсуждение началось после публикации Амодеи плана по управлению темпом развития frontier AI — наиболее мощных моделей. По словам участников Equity, идеи не возникли одномоментно: они давно обсуждались в сообществе, занимающемся безопасностью ИИ, а затем быстро получили поддержку части отрасли.

Среди обозначенных направлений — независимая оценка практик безопасности и инцидентов внутри компаний вроде Anthropic и OpenAI. Также обсуждаются координация крупных ИИ-компаний из демократических стран по стандартам и ограничениям и международное взаимодействие.

При этом конкретика остаётся ограниченной. В разговоре Equity отмечают, что пока не определено, как именно будут работать внешние оценщики, какие критерии рисков они применят и что будет происходить при выявлении проблем. Само слово «замедление» участники считают неточным: заявленные меры могут усилить контроль, но не обязательно потребуют выпускать технологии медленнее.

Почему рынок не всегда создаёт ограничители

Хуанг поддержал позицию президента США Дональда Трампа, который называл реакцию на ИИ преувеличенной, и высказался против замедления. У Nvidia есть прямой коммерческий интерес к дальнейшему расширению рынка ИИ-инфраструктуры, поэтому её позиция заметно отличается от подхода сторонников дополнительных предохранителей.

Ведущие Equity усомнились, что существующих правил и конкуренции достаточно для контроля рисков. Они указали, что федеральное правительство США, по их оценке, не демонстрирует готовности активно обеспечивать соблюдение регулирования, в том числе в области ИИ.

Кроме того, рынок всё сильнее ориентирован на корпоративных клиентов. Компаниям сложнее менять поставщика: например, переходить между Codex от OpenAI и Claude Code от Anthropic только из-за несогласия с действиями разработчика. Крупные инвестиции также позволяют ИИ-компаниям переносить возможные потери без немедленного давления со стороны потребителей.

Что учитывать заказчикам ИИ

Спор показывает, что отраслевой консенсус о безопасности ещё не равен понятным обязательствам. Для бизнеса при выборе ИИ-поставщика важны не только качество модели и цена, но и прозрачность процедур: кто проверяет безопасность, как фиксируются инциденты и какие меры применяются после их обнаружения.

Пока предложения о координации и независимом контроле не получили детального оформления, заказчикам стоит отдельно закреплять требования к безопасности и реагированию в своих процессах работы с ИИ-сервисами.