Манифест Цукерберга о персональном ИИ раскритиковали за игнорирование рисков

Марк Цукерберг опубликовал манифест объёмом 6 500 слов о «персональном суперинтеллекте», который разрабатывает Meta. В тексте он описывает бесплатный или доступный ИИ для миллиардов пользователей, персональных наставников по любым предметам и юридических помощников. Однако критика документа сосредоточилась на том, что заявленные преимущества почти не сопровождаются разбором уже заметных рисков.

Обещания персонального суперинтеллекта

Цукерберг утверждает, что более мощные инструменты позволят людям сильнее влиять на будущее, а конкурирующие интересы людей и институтов будут сдерживать друг друга и вести к положительным результатам. Практическим воплощением этой идеи он называет широкое распространение персонального ИИ.

В образовании глава Meta рисует сценарий, при котором у каждого появится терпеливый наставник уровня PhD по любому предмету. Такой помощник должен подстраиваться под пробелы ученика, а взрослым — помогать осваивать навыки, языки и новые занятия.

Критики напоминают, что близкие по назначению продукты уже существуют: ChatGPT, Claude и Gemini. Они могут объяснять темы и помогать с обучением, но применяются и для выполнения домашних заданий и написания работ вместо учащихся. При этом надёжного механизма маркировки, который позволял бы преподавателю уверенно отличить сгенерированное эссе, пока нет.

Доступность, цена и доверие

Другой пример из манифеста — «суперинтеллектуальный юрист» для каждого. Цукерберг предполагает, что всеобщий доступ к такому инструменту сделает правосудие более справедливым и эффективным, сократив неравенство ресурсов сторон. Но тот же сценарий может означать и рост сложности юридических процессов или поток необоснованных исков, сравнимый со спамом.

Meta также заявляет о бесплатных версиях сервисов и механизме динамического аукциона для тех, кому требуется больше вычислений. Рыночные механизмы распределения вычислительных мощностей уже существуют, но потребительские ИИ-сервисы обычно скрывают спотовую цену от конечного пользователя. Меняющаяся стоимость особенно неудобна для инструмента, от которого зависит рабочий процесс.

Планы Meta развивать вычислительную инфраструктуру перекликаются с монетизация избыточных AI-мощностей Meta, где рассматривается возможная монетизация избыточных AI-мощностей компании. В нынешнем манифесте вопрос о цене доступа напрямую связан с тем, как эти мощности будут распределяться между пользователями.

Что это означает для компаний

Главная претензия к позиции Цукерберга заключается не в отрицании полезности ИИ, а в недостатке признания побочных эффектов и мер предосторожности. На фоне недоверия к социальным платформам обещаний о широком доступе недостаточно для укрепления доверия.

Для бизнеса из этой дискуссии следует практический вывод: при внедрении ИИ стоит оценивать не только качество функций и доступ к вычислениям, но и правила использования, контроль результатов, предсказуемость расходов и ответственность поставщика. Именно эти условия определяют, станет ли инструмент устойчивой частью процессов.