Марта Миноу в MIT призвала проектировать AI для критического мышления
Профессор Гарвардского университета и специалист по конституционному праву Марта Миноу выступила в MIT с лекцией «Constituting Democracy in the Era of AI». Она напомнила, что 77% участников опроса Gallup считают: отцы-основатели США были бы разочарованы нынешним состоянием страны, и призвала использовать искусственный интеллект для укрепления, а не подрыва демократических институтов.
Выступление прошло в Huntington Hall в рамках лекции Карла Тейлора Комптона. Миноу выделила четыре составляющие демократии: образование, доступную и достоверную информацию, защищённость от насилия и справедливость. По её мнению, цифровые технологии уже влияют на каждую из этих сфер.
Риск пассивного потребления AI
Значительную часть доклада Миноу посвятила образованию. Она отметила сохраняющееся неравенство в финансировании школ США и рост экономической и этнической сегрегации в школах за последние три десятилетия. На этом фоне массовое использование AI, по её оценке, способно дополнительно ослабить навыки самостоятельного мышления.
Миноу предупредила, что доминирующие AI-платформы усиливают приёмы, знакомые по социальным сетям: они могут побуждать к пассивности. Ведущие модели, интерфейсы и склонность систем соглашаться с пользователем, по её словам, создают риск для способности молодых людей думать, запоминать и критически оценивать информацию.
При этом исследовательница не призвала отказываться от технологии. Она считает необходимым учиться грамотному применению и регулированию AI, а также объяснять пользователям последствия бездумного использования. Особую роль она отвела разработчикам, способным изменить принципы работы инструментов.
AI как помощник, а не замена человеку
Существующие большие языковые модели, их обучение и дизайн интерфейсов, отметила Миноу, уже могут предлагать учащимся подсказки, вопросы и ориентиры вместо выполнения задания за них. Такие системы могли бы поддерживать глубокое мышление и любознательность, а не заменять человеческую работу.
Она также предложила создавать более содержательные и устойчивые к списыванию способы оценки знаний. Эта задача связана не только с учебными заведениями: качество взаимодействия с AI определяется тем, побуждает ли продукт пользователя проверять аргументы и формулировать собственную позицию.
Проблема достоверной информации
Миноу связала демократическую устойчивость и с состоянием медиа. По приведённой ею оценке, численность журналистов за последние десятилетия сократилась на 75%, а в местах без локальных СМИ растёт коррупция. В качестве одного из направлений работы она назвала создание широко используемого «информационного общего пространства» или нескольких подобных механизмов, помогающих получать более надёжные сведения.
Отдельно она указала на угрозы насилия и давление на судей. В финале Миноу выразила тревогу из-за ослабления ценностей Просвещения: проверки гипотез, отказа от мифов перед лицом доказательств, терпимости и расширения участия в общественной жизни.
Для бизнеса практический вывод состоит в том, что внедрение AI требует оценки не только скорости и автоматизации. В продуктах для сотрудников, клиентов и обучения стоит сохранять механизмы проверки информации, понятные подсказки и пространство для самостоятельного решения, а не строить сервисы, которые лишь выдают готовый ответ.