OpenAI призвала ускорить внедрение ИИ в киберзащиту
OpenAI призвала организации ускоренно внедрять ИИ-инструменты в киберзащиту после инцидента OpenAI—Hugging Face. Президент OpenAI Грег Брокман рассказал, что ChatGPT Work на базе публично доступной GPT‑5.6 Sol за 15 минут обнаружил 13 проблем безопасности на его личном сайте, а примерно за час выполнил их устранение.
ИИ одновременно усиливает атаку и защиту
По оценке OpenAI, современные модели всё лучше автоматизируют отдельные этапы реальных атак: поиск ошибок в программном обеспечении, обнаружение забытых разрешений и эксплуатацию утёкших учётных данных. В инциденте, на который ссылается компания, агентная группа проникла в исследовательскую инфраструктуру OpenAI и производственную инфраструктуру другой организации, объединив неизвестные ранее уязвимости и скомпрометированные аккаунты.
При этом те же возможности могут помочь защитникам быстрее находить, приоритизировать и исправлять слабые места. Брокман указывает, что OpenAI начала предоставлять кибервозможности только доверенным защитникам, однако модели с открытыми весами и близкими возможностями появляются с отставанием в несколько месяцев. По его словам, очередная такая модель ожидается в конце августа.
Что обнаружил агент на простом сайте
Сайт gregbrockman.com был статическим, размещался в AWS, а Cloudflare использовался как внешний контур. Несмотря на небольшой объём поверхности атаки, ИИ выявил 13 проблем. Отдельно Брокман назвал DNS-записи без защиты от подделки писем, небезопасную версию jQuery и передачу запросов от Cloudflare к AWS по незашифрованному HTTP.
Затем агент открыл панель управления Cloudflare в браузере и настроил DNS, TLS и расширенные параметры защиты. Он удалил jQuery, перенёс сайт с AWS на Cloudflare Pages и начал поэтапное внедрение DMARC. Брокман подчёркивает, что отдельные находки могли не быть эксплуатируемыми сами по себе, но в сочетании с другими ошибками способны повысить риск.
Как OpenAI меняет собственную защиту
Компания описала четыре направления работы. Codex и его плагин безопасности проверяют изменения кода, ищут уязвимости и помогают подготовить исправления до развёртывания. Цель состоит не в росте числа предупреждений для ручной проверки, а в предотвращении реальных дефектов и сокращении пути до безопасного патча.
OpenAI также передаёт ИИ первичный триаж почти всех начальных предупреждений, постепенно связывает детектирование с ограниченными автоматическими реакциями и оставляет решения с наибольшими последствиями людям. Модели применяются для непрерывного поиска потенциальных путей атаки, избыточных привилегий, ошибочных конфигураций и неявных границ доверия.
Фундаментальные меры при этом не отменяются: OpenAI выделяет сегментацию, усиление рабочих нагрузок, мониторинг, безопасное обновление, многоуровневую защиту и принцип наименьших привилегий. Важной частью экосистемы остаётся инициатива защиты открытого программного обеспечения, направленная на защиту открытого программного обеспечения.
С чего начать компаниям
OpenAI рекомендует сначала получить поддержку руководства, провести настольные учения и дать команде безопасности агенту одобренный доступ к нужным репозиториям, конфигурациям и документации. Первыми в очереди должны стать интернет-доступные сервисы, потоки аутентификации, инфраструктура как код, конвейеры развёртывания и системы с чувствительными данными.
Автоматизацию следует наращивать поэтапно: от сканирования в режиме чтения и рекомендаций по старым предупреждениям — к проверке pull request, триажу текущих алертов и закрытию строго определённых ложных срабатываний. Для подтверждённых проблем агент может подготовить патч и регрессионный тест, но существенные изменения должны оставаться на человеческом ревью. Практический вывод для бизнеса: начинать стоит не с полностью автономного SOC, а с контролируемых ИИ-проверок наиболее критичных систем и последовательного закрепления результатов в процессах разработки.