MIT предложил закрепить ответственность за публичные тексты ИИ
Профессор MIT Деб Рой призвал закрепить за каждым публичным текстом человека или организацию, готовых отвечать за его содержание, даже если текст подготовлен искусственным интеллектом. В качестве показательного случая он приводит общественное обсуждение отмены правил сетевой нейтральности: в 2017 году Федеральная комиссия по связи США получила более 22 млн комментариев, а расследование генерального прокурора Нью-Йорка позднее признало почти 18 млн из них фальшивыми.
Рой, профессор медиаискусств и наук MIT и директор MIT Center for Constructive Communication, изложил позицию в эссе «Who stands behind the words?» для Bulletin of the Atomic Scientists. Его основной тезис: языковые модели могут участвовать в создании сообщений, однако конечная ответственность не может останавливаться на программной системе.
Почему массовые комментарии меняют общественное обсуждение
Ранее массовые поддельные обращения часто выдавали шаблонные фразы и дублирующийся текст. По словам Роя, большие языковые модели устраняют эти признаки: они способны создавать разные, связные и внешне правдоподобные формулировки. Получателю становится сложнее установить, выражает ли комментарий позицию человека, который готов за неё отвечать.
Для процедур публичного обсуждения это принципиально. Рой называет возможность оставить комментарий одной из опор демократического процесса: люди должны иметь возможность быть услышанными до принятия нового правила. Если канал заполняется обращениями, за которыми никто не стоит, его ценность для участников и организаторов снижается.
Исследователь использует два связанных понятия — право быть услышанным и обязанность отвечать за сказанное. Первое связано с тем, что у говорящего есть основание участвовать в обсуждении, второе — с готовностью подтвердить утверждение и, при необходимости, обосновать его фактами. При этом Рой не предлагает отменять приватность: институт может проверять личность участника и отвечать за его слова, не раскрывая эту личность публично.
ИИ как инструмент, а не последнее звено
Рой не призывает отказываться от ИИ в коммуникациях. Система может помогать готовить комментарии, суммировать обсуждения и находить общие темы. Использование ИИ допустимо, если человек с интересом к рассматриваемому вопросу принимает подготовленный текст как собственный и готов за него отвечать.
В эссе Рой формулирует четыре принципа проектирования таких процессов: авторство должно быть атрибутируемым, процесс — разделённым на проверяемые этапы, происхождение выводов — частью инфраструктуры, а круг участников с правом голоса следует расширять, а не концентрировать. Автономность допустима, но безответственность — нет, подчёркивает он.
Проверяемое происхождение выводов
MIT Center for Constructive Communication и связанная с ним некоммерческая организация Cortico проводят диалоги в сообществах, школах, совещательных собраниях и организациях. Технологии, включая ИИ, помогают выделять темы в высказываниях, но участники могут проверять и корректировать результат на ключевых этапах.
В центре также разрабатывают прототип VoiceTrace, созданный аспиранткой Кассандрой Оверни. Он связывает каждое итоговое утверждение — например, резюме услышанного или рекомендацию по итогам обсуждения — с конкретными голосами, на которых оно основано. Это позволяет проследить происхождение любого вывода до исходных разговоров.
Практический вывод для компаний и государственных структур состоит не в отказе от генеративных инструментов, а в организации проверяемой цепочки ответственности. При подготовке важных сообщений, рекомендаций и сводок нужно заранее определить, кто подтверждает результат, кто может объяснить его основания и как участники смогут проверить путь от исходных мнений к итоговому тексту.