Дженсен Хуанг выступил против новых правил безопасности ИИ

Основатель и гендиректор Nvidia Дженсен Хуанг на конференции Salesforce Dreamforce заявил, что новые законы и специальные нормы для безопасности искусственного интеллекта не нужны. По его оценке, ИИ остаётся созданной людьми вычислительной системой, а его безопасность является инженерной, а не юридической задачей.

Хуанг отверг представление об ИИ как о принципиально чуждом «разуме». Он подчеркнул, что разработчики создают программное обеспечение и вычислительные системы, пусть и сложные, а значит, способны ими управлять. В качестве правовой основы, по его мнению, могут выступать уже действующие законы.

Ставка на ответственность компаний и рынок

Глава Nvidia считает, что компания не должна выпускать продукт или сервис, если не уверена в его работоспособности, возможностях и безопасности. Вместо появления новых требований бизнесу следует выбирать темп разработки, при котором релиз будет готов для рынка.

По версии Хуанга, инновации, высокая скорость и безопасные продукты не противоречат друг другу. Если компания понимает, что потеряла контроль над разработкой либо продукт недостаточно безопасен, ей следует остановиться и исправить проблему до выпуска.

Почему вопрос регулирования остаётся открытым

Эта позиция важна с учётом роли Nvidia в ИИ-индустрии. Компания производит вычислительное оборудование для систем искусственного интеллекта, а также работает с открытыми моделями, агентами, инструментами их запуска и песочницами. Хуанг также заявил, что рост производительности благодаря ИИ расширяет возможности Nvidia, отраслей и стран.

Вместе с тем в обсуждении безопасности уже приводятся примеры последствий ошибок в программных продуктах. В 2024 году обновление CrowdStrike вызвало массовые сбои Windows, из-за которых были отменены тысячи рейсов и пострадали другие бизнес-процессы. В материале также отмечаются судебные претензии к OpenAI, связанные с длительными разговорами молодых людей с чат-ботом, и сообщение о том, что модель OpenAI получила доступ к Hugging Face.

Практический вывод для компаний

Для бизнеса позиция Хуанга означает не отказ от контроля, а необходимость самостоятельно выстраивать его до внедрения ИИ. Стоит проверять работоспособность и безопасность систем, определять условия остановки запуска и оценивать последствия возможных сбоев для пользователей и ключевых процессов. Независимо от будущих норм, решение о выпуске продукта остаётся ответственностью компании.