OpenAI и NASK будут совместно исследовать безопасность ИИ
OpenAI и польский государственный исследовательский институт NASK подписали соглашение о совместной работе над безопасностью, защитой и техническими исследованиями в области ИИ. Центр исследований безопасности ИИ NASK, выполняющий роль польского AI Safety Institute, вместе с OpenAI будет оценивать всё более мощные системы, выявлять потенциальные уязвимости и усиливать защитные механизмы.
Исследования рисков и защитных механизмов
Соглашение объединяет экспертизу разработчика ИИ и публичного исследовательского института. Заявленная цель партнёрства — лучше понимать возникающие риски, проверять надёжность защит и изучать, как продвинутые ИИ-системы могут способствовать устойчивости цифровой экосистемы.
NASK ведёт исследования в области безопасности ИИ, включая защиту от новых рисков, выявление синтетического контента, созданного ИИ, анализ злоумышленных сценариев применения и многоязычные аспекты этих задач. Директор NASK Радослав Нелек отметил, что безопасность ИИ требует сотрудничества публичных институтов безопасности и разработчиков передовых моделей.
OpenAI подчёркивает, что по мере роста возможностей моделей внешняя экспертиза нужна для проверки предположений, тестирования систем и усиления мер защиты. Контекст работы компании дополняет изменения в управлении фондом и комитете безопасности: изменения в управлении фондом и комитете безопасности показывают, что вопросы контроля ИИ рассматриваются не только как техническая задача.
Связь с киберзащитой в Польше
Новое соглашение опирается и на уже начатую работу с польскими киберзащитниками. В июле CERT Polska, работающий в составе NASK, получил через программу Daybreak доступ к моделям OpenAI с кибернетическими возможностями.
Команда CERT Polska использовала модели для поиска шести уязвимостей в MikroTik RouterOS. Среди них были недостатки, которые можно было объединить для получения контроля над затронутыми устройствами без аутентификации. Производитель выпустил исправления, а CERT Polska подтвердил, что они предотвращают наблюдавшиеся атаки.
Значение международной кооперации
OpenAI уже сотрудничает с американским Center for Advancing Standards and Innovation for Super Intelligence, британским AI Security Institute и другими публичными исследовательскими организациями. Компания считает, что общие подходы к оценке возможностей, анализу рисков, тестированию защит и сообщениям об инцидентах помогут сопоставлять доказательства и реагировать на трансграничные угрозы.
Для бизнеса это означает, что при внедрении ИИ важно учитывать не только функциональность моделей, но и процедуры независимой оценки, поиск уязвимостей и скорость исправления обнаруженных проблем. Практика CERT Polska показывает, что такие проверки могут приводить к конкретным обновлениям защиты в используемой инфраструктуре.