OpenAI привлечёт Cathedral Systems к новому спринту безопасности
OpenAI готовит новый внутренний спринт по безопасности совместно с исследователями Cathedral Systems и повышает вознаграждения за критические находки в программе Security Bug Bounty более чем в четыре раза. Компания намерена задействовать собственные модели, чтобы проверять защиту своих платформ, находить слабые места и тестировать исправления.
Внешние исследователи и модели OpenAI
В спринте команды OpenAI будут работать вместе с Cathedral Systems. Исследователи партнёра применят модели OpenAI наряду с внутренними командами компании, чтобы оспорить существующие защитные механизмы и искать уязвимости с использованием других подходов и экспертизы.
Генеральный директор и сооснователь Cathedral Systems Гэвин Клигер заявил, что сотрудничество внешних фирм по безопасности с разработчиком моделей помогает непрерывно проверять защиту. По его словам, стороны будут объединять модели и экспертизу OpenAI с исследованиями Cathedral Systems, чтобы находить слабости, проверять исправления и укреплять практику постоянной защиты.
Изменения затронут и Security Bug Bounty. OpenAI хочет, чтобы независимые исследователи проверяли её предположения и помогали усиливать не только системы, но и методы их защиты. Увеличение выплат за критические отчёты должно сделать такую проверку более значимой частью программы.
Что показал предыдущий спринт
В предыдущем спринте OpenAI выделила на поиск и устранение слабых мест 25% продуктовых инженеров. Инженеры использовали Codex для изучения найденных проблем, воспроизведения уязвимостей в изолированных средах и подготовки патчей к проверке.
Компания связывает новый этап с подходом непрерывного обнаружения и устранения недостатков до того, как ими воспользуются атакующие. В OpenAI считают, что традиционных киберзащитных средств для этого уже недостаточно: отраслевые инциденты показывают, насколько быстро могут возникать угрозы.
Отдельным направлением остаётся поддержка защитников цифровой инфраструктуры. Инициатива инициатива помощи защите открытого ПО ориентирована на помощь сопровождающим открытого ПО, а OpenAI также заявила о намерении предоставить клиентам Daybreak субсидированный доступ к своим наиболее мощным моделям на сумму 1 млрд долларов в течение шести месяцев.
Практический вывод
Для организаций этот пример подчёркивает ценность регулярной проверки защиты: сочетания внутренних команд, независимых исследователей, изолированного воспроизведения проблем и проверки патчей. Автоматизация может ускорять эти этапы, но решение о внедрении исправлений и контроль их качества остаются частью процесса безопасности.