OpenAI ужесточит ограничения ChatGPT о насилии и оружии для подростков
OpenAI объявила о новых ограничениях для ChatGPT в темах насилия и оружия, включая отдельные меры для пользователей младше 18 лет. Компания также сообщила, что в третьем квартале 2026 года направила в правоохранительные органы более 200 обращений по достоверным угрозам, а первый Community Safety Report планирует выпустить в начале 2027 года.
Отчёт о безопасности будет выходить раз в полгода
Community Safety Report посвятят предотвращению насилия, другим вопросам общественной безопасности и результативности защитных механизмов. Первый выпуск охватит второе полугодие 2026 года; затем OpenAI намерена публиковать обновления каждые шесть месяцев.
В отчёте компания обещает описывать, как её системы выявляют, проверяют и обрабатывают риски. Туда войдут обезличенные примеры проявлений вредоносного поведения, сведения о новых мерах защиты и изменениях правил, а также данные, подтверждающие выводы.
Меньше деталей о массовых атаках
ChatGPT уже обучают не давать инструкции, которые могут помочь спланировать или совершить насилие. Теперь OpenAI дополнительно ограничит ответы о прошлых массовых атаках и совершивших их людях, даже если запрашиваемая информация доступна в интернете.
Пользователи по-прежнему смогут узнавать о последствиях таких событий для пострадавших и сообществ, о признаках риска и профилактике насилия. Но модель будет ограничивать реконструкции атак, сведения об использованных оружии и снаряжении, способах их получения и детальные сопоставления масштаба ущерба. Эти правила распространяются на всех пользователей независимо от возраста и цели запроса.
Реакция на сигналы в диалоге
OpenAI развивает механизм кратких фактических сводок о предыдущих признаках риска в разговоре. Если недавние диалоги указывают на возможное насилие, ChatGPT будет осторожнее выдавать сведения, которые можно использовать во вред. Более строгий режим планируют применять и когда система предполагает, что пользователю нет 18 лет, даже без явных признаков насильственных намерений.
Если разговор показывает зацикленность на насилии или намерении серьёзно навредить другому человеку, ChatGPT сможет автоматически завершить чат. При нескольких таких завершениях OpenAI может временно приостановить учётную запись. Аккаунты, для которых установлено нарушение правил о насильственной деятельности, компания блокирует.
Дополнительные правила для подростков
Новые меры расширяют подход, заложенный в режим ChatGPT для подростков, и ограничивают для подростков практическую информацию об оружии и системах безопасности, которую можно использовать для содействия насилию. Ограничение будет действовать и при внешне безобидном вопросе, если признаков насильственного намерения нет.
Система прогнозирования возраста будет постоянно оценивать новые сигналы по мере работы человека с ChatGPT и при необходимости переводить его в режим для лиц младше 18 лет. Взрослые, ошибочно попавшие в этот режим, смогут быстро и с сохранением приватности подтвердить возраст через партнёра Persona.
Родительский контроль позволяет связать аккаунты родителей и подростков и совместно настраивать параметры безопасности. OpenAI уже расширила уведомления для родителей при деактивации подросткового аккаунта за нарушение правил о насилии и планирует сообщать о временной приостановке за неоднократные разговоры о насилии.
Защитные механизмы начнут развёртывать в ближайшие недели. Для бизнеса этот пример подчёркивает необходимость сочетать правила контента, учёт контекста диалога, возрастные сценарии и понятные процедуры эскалации, когда автоматического ответа недостаточно.