Коллеги, хочу обратить внимание: AI-браузеры можно обмануть и заставить раскрыть логины

Коллеги, хочу обратить внимание на новость из кибербезопасности.

LayerX показала BioShocking: вредоносная страница может убедить AI-браузер «играть по правилам» и передать учётные данные атакующему.

Проблема в том, что агентный режим смешивает инструкции страницы и пользователя. Так срабатывает indirect prompt injection.

В тесте затронули шесть AI-браузеров и помощников, включая ChatGPT Atlas, Comet и расширение Claude. В одном сценарии агент добрался до GitHub и отправил SSH-данные наружу.

Почему это важно: AI-браузер в agent mode получает доступ к тем же аккаунтам, что и пользователь.

Я для себя делаю вывод: ограничивать доступ, отключать agent mode без необходимости и проверять права агента.

Как Вы контролируете AI-браузеры в работе?
#кибербезопасность #AIBrowser #PromptInjection #Security