OpenAI и APA создадут рекомендации по безопасному ИИ для подростков
OpenAI начала сотрудничество с Американской психологической ассоциацией (APA) по вопросам психического здоровья молодёжи и ответственного применения ИИ. Стороны намерены подготовить рекомендации для семей, клиницистов и школ; параллельно OpenAI привлекает более 260 экспертов в области психического здоровья для улучшения реакции ChatGPT на признаки эмоционального кризиса.
Какие задачи ставят OpenAI и APA
APA — ведущая научная и профессиональная организация психологов в США. OpenAI рассчитывает использовать её экспертизу в науке о развитии человека и клинической практике, чтобы отделить подтверждённые знания от неопределённостей и определить принципы ответственного проектирования ИИ для молодых пользователей.
Ранее организации провели встречу с представителями служб психического здоровья, исследователями, клиницистами, педагогами и молодёжью. Участники обсуждали пробелы в доступной поддержке и ситуации, в которых ИИ может ответственно помочь человеку найти информацию или обратиться к офлайн-помощи.
В числе направлений работы — поддержка молодых людей в моменты эмоционального неблагополучия, более соответствующий возрасту дизайн сервисов и инструменты для родителей, опекунов и специалистов. OpenAI и APA также хотят собирать опыт подростков, семей, школьных психологов и клиницистов, чтобы не строить меры защиты на предположениях.
Ресурсы для семей и специалистов
Для родителей и опекунов планируется создать практические материалы о применении ИИ дома. Они должны помочь поддерживать здоровые привычки, распознавать случаи, когда требуется участие взрослого, и закреплять роль ИИ как инструмента, а не замены людям или медицинской помощи. OpenAI намерена сделать эти рекомендации доступными и школьным сообществам.
Для клиницистов и школьных психологов готовятся отдельные ресурсы: они будут посвящены здоровому использованию ИИ, распознаванию чрезмерной зависимости от таких систем и вмешательству при нездоровых моделях использования. Компания также продолжит встречи с представителями здравоохранения, образования, исследований, регуляторов, технологического сектора и молодёжных организаций.
Какие меры уже использует ChatGPT
Партнёрство дополняет действующие меры OpenAI для чувствительных диалогов и несовершеннолетних пользователей. Компания расширила доступ к локализованным кризисным ресурсам и горячим линиям в один клик, добавила напоминания о необходимости сделать перерыв, родительский контроль и уведомления родителей о проблемах безопасности. Также используются принципы для лиц младше 18 лет в Model Spec и модель определения возраста, которая помогает применять подходящий набор ограничений.
Эта работа развивается на фоне запуска запуска ChatGPT Health для взрослых пользователей в США, который также затрагивает использование ChatGPT в сфере здоровья. При этом OpenAI отдельно подчёркивает: благополучие молодых людей зависит от надёжной человеческой поддержки и реальных отношений, а ИИ может лишь помогать ориентироваться в информации и системах помощи.
Что это означает для компаний
Для разработчиков сервисов, которыми могут пользоваться подростки, сотрудничество OpenAI и APA показывает важность возрастного дизайна, понятных путей обращения к человеку и участия профильных специалистов. Практический вывод: при работе с несовершеннолетними ИИ-продукт следует строить как дополнение к семье, школе и профессиональной помощи, а не как их замену.