Эксперт на процессе против OpenAI предупредил об угрозе гонки за AGI и конфликте с безопасностью

Друзья, хочу поделиться из мира ИИ: на процессе Илона Маска против OpenAI выступил единственный эксперт защиты — профессор Питер Рассел.

Он отметил риски от кибератак и проблем выравнивания целей, а также «гонку» за достижением AGI, где победитель получает всё. Рассел подписал призыв к паузе в исследованиях (март 2023), но суд ограничил часть его показаний об экзистенциальных рисках. Адвокаты OpenAI добивались, чтобы он не оценивал корпоративную структуру и конкретные политики компании.

Почему это важно: дело показывает, как коммерческое давление конфликтует с требованиями безопасности и как суды будут трактовать такие аргументы.

Как Вы считаете, способны ли регуляторы остановить гонку за AGI?
#AI #кибербезопасность #регулирование #AGI