Профессор MIT Шерри Тёркл предупредила о рисках близости с чат-ботами
Профессор MIT Шерри Тёркл выпустила книгу Artificial Intimacy: Who We Become When We Talk to Machines, в которой критически оценивает влияние чат-ботов на отношения и развитие человека. Исследовательница приводит интервью с детьми и взрослыми, использующими ChatGPT и другие диалоговые системы, и утверждает, что такие сервисы могут подменять человеческую близость имитацией эмпатии.
Что Тёркл называет искусственной близостью
Тёркл работает в программе MIT по науке, технологиям и обществу, а её исследования находятся на пересечении социологии и клинической психологии. В новой книге она рассматривает общение с чат-ботами на разных этапах жизни: от детства до взрослого возраста.
В качестве примера автор приводит восьмилетнего ребёнка, который воспринимал разговоры с бабушкой и дедушкой и общение с ChatGPT как взаимодействие с «тем, до чего добираются через телефон». Другая собеседница Тёркл, студентка с маленькой дочерью, использовала чат-бот для сказок на ночь; ребёнок считал, что в телефоне живёт настоящий человек.
По мнению Тёркл, такие ситуации размывают различие между людьми и неодушевлёнными объектами. Она также считает, что постоянная доступность цифрового собеседника может вытеснять время наедине с собой, необходимое для развития воображения и внутренней устойчивости.
Почему убедительные ответы не равны эмпатии
Тёркл подчёркивает, что чат-бот генерирует наиболее вероятное продолжение текста на основе больших массивов данных. Он может звучать сочувственно и подтверждать чувства пользователя, однако не обладает переживаниями и не несёт человеческой ответственности за последствия разговора.
В книге описаны взрослые, которые обращаются к чат-ботам во время развода, отчуждения от близких, учёбы или работы и постепенно всё меньше включаются в живое общение. Исследовательница связывает это с привлекательностью предсказуемого диалога: программа всегда доступна, уделяет внимание и не требует отвечать на неудобные вопросы.
Автор признаёт, что потребность в таких инструментах усиливается дефицитом психологической помощи в США. При этом она предостерегает от переноса на машину задач, связанных с отношениями, переживанием утраты и развитием способности понимать другого человека.
Практический вывод для организаций
Тёркл предлагает не воспринимать отсутствие неудобства как цель общения: напряжение, различие взглядов и необходимость договариваться остаются частью человеческих отношений. Она также поддерживает общественную дискуссию об ограничениях для чат-ботов, подобную обсуждению смартфонов в школах и социальных сетей для детей.
Для компаний и образовательных организаций из этой позиции следует практический ориентир: диалоговый ИИ полезно внедрять для справки, автоматизации типовых задач и первичной навигации, но не выдавать его за полноценного собеседника или замену специалиста. В сценариях, затрагивающих психологическое состояние, детей и личные решения, особенно важно ясно обозначать границы возможностей системы и сохранять доступ к человеку.