OpenAI заблокировала мошенническую сеть из Пойпета, использовавшую ChatGPT
OpenAI заблокировала координированную сеть аккаунтов ChatGPT, которую компания связывает с операцией из камбоджийского Пойпета. Участники сети применяли генеративные модели для инвестиционного мошенничества, романтических схем, ложных предложений от азартных платформ и выдачи себя за правоохранительные органы.
Расследование OpenAI проводила совместно с WhatsApp, принадлежащим Meta. Компания не назвала число заблокированных аккаунтов и не смогла оценить общий финансовый ущерб, однако во внутренних сообщениях мошенников фигурировали сотни потенциальных жертв и отдельные потери на тысячи долларов.
Как ChatGPT использовали в мошеннической операции
По оценке OpenAI, кластер аккаунтов, вероятно действовавший из Юго-Восточной Азии, создавал и поддерживал фальшивые онлайн-персоны, генерировал и переводил сообщения для адресатов, а также выпускал рекламные материалы для обманных кампаний.
В частности, сеть размещала рекламу вакансий «чаттеров» в Пойпете для пользователей из Бангладеш и Индии. В объявлениях обещали базовую зарплату 800 долларов, бонус 100 долларов за полную явку, перелёт, жильё, питание, годовую визу Камбоджи и разрешение на работу.
Часть аккаунтов применяла модель и для внутренних задач: составляла объявления сотрудникам, переводила сообщения между персоналом и вела записи о долгах, удержаниях из зарплаты, штрафах, возврате займов, просрочках виз, разрешениях на работу, миграционном статусе и бонусах за подбор персонала.
Несколько схем в одной инфраструктуре
OpenAI отмечает, что организованные преступные группы редко ограничиваются одним видом обмана. В этой операции использовались знакомства для выстраивания доверия перед предложениями вложиться в криптовалюты или спотовое золото. Другие персонажи поддерживали длительные романтические диалоги либо представлялись сотрудниками онлайн-казино и обещали несуществующие бонусы и выигрыши.
Отдельные участники выдавали себя за правоохранителей и требовали срочно оплатить штрафы за якобы тяжкие преступления. Для убедительности создавались поддельные профили знакомств, фиктивные инвестиционные эксперты и изображения фальшивых паспортов, юридических уведомлений, подтверждений покупки акций и интерфейсов игровых платформ.
Цепочку атаки OpenAI описывает как «ping-zing-sting»: сначала контакт через WhatsApp или Telegram, затем выстраивание доверия и после этого требование внести депозит, оплатить активацию либо погасить несуществующий штраф. Жертве могли показать фальшивые скриншоты переводов или данных счёта.
Что это означает для компаний
Операция показывает, что генеративный ИИ способен ускорять подготовку текстов, переводов и синтетических образов, но не меняет базовую механику социальной инженерии. В контексте рисков для рабочих ИИ-инструментов важна и угроза запуска вредоносного агента через фишинговую ссылку угроза запуска вредоносного агента через фишинговую ссылку, поскольку доверие к содержимому рабочего пространства также может стать точкой атаки.
Компаниям стоит закрепить независимую проверку платёжных запросов, обращений от «служб безопасности» и кадровых предложений в мессенджерах. Убедительный текст, изображение документа или скриншот перевода не должны считаться подтверждением без проверки по известным каналам связи.