OpenAI представила Private Safety Processing для клиентов с ZDR
OpenAI представила Private Safety Processing — механизм безопасности для API-клиентов, использующих Zero Data Retention (ZDR). Он должен выявлять риски в последовательностях связанных взаимодействий, при этом сотрудники OpenAI не получают доступа к исходным промптам и ответам. Компания уже тестирует решение с первыми клиентами и планирует начать развёртывание вместе с публикацией технического документа в сентябре.
Зачем нужен анализ нескольких взаимодействий
Режим ZDR для подходящих API-клиентов означает, что OpenAI не сохраняет промпты и ответы после обработки запроса. Сотрудники компании не могут просматривать этот контент, а корпоративные данные не используются для обучения моделей без явного согласия заказчика.
Однако часть серьёзных рисков проявляется не в одном запросе, а в серии действий. OpenAI приводит примеры повторного тестирования защитных механизмов, координации между аккаунтами, маскировки угроз под обычное исследование и агентных задач, в которых система продолжает действовать после команды остановиться.
До сих пор совместимые с ZDR механизмы оценивали каждое взаимодействие отдельно. Private Safety Processing должна сопоставлять связанные операции и обнаруживать такие паттерны, не открывая персоналу OpenAI содержание запросов. Контекст усиления защитных мер для моделей с высокими кибервозможностями отражён в материале усиления защитных мер для моделей с высокими кибервозможностями, где рассматриваются связанные требования к безопасности.
Как устроена обработка
Система использует клиентский контент независимо от места его хранения. В развёртываниях ZDR данные остаются в инфраструктуре под контролем заказчика. Для варианта с хранилищем OpenAI контент шифруется ключами, которыми управляет клиент; у OpenAI нет копии этих ключей.
Если автоматика обнаруживает риск, компания получает узко определённый сигнал о типе активности. Он может стать основанием для решения о применении ограничений, но не открывает сотрудникам OpenAI сами промпты или ответы, включая помеченные системой материалы.
Что это меняет для организаций
Клиенты смогут разбирать предупреждения и решения об ограничениях по информации в собственных системах. При апелляции, пояснении легитимной активности или расследовании подтверждённого злоупотребления они смогут по своему выбору передать OpenAI необходимые сведения.
Для организаций с финансовыми, медицинскими, коммерческими и исследовательскими данными подход важен как попытка совместить контроль над информацией и более широкий мониторинг рисков. Практический вывод для бизнеса: при планировании агентных и многошаговых сценариев стоит заранее оценить, какие сигналы и процедуры расследования потребуются внутри компании, сохраняя данные в выбранной модели хранения.