OpenAI начнёт маркировать тексты ChatGPT и Codex в Евросоюзе
OpenAI в ближайшие недели начнёт добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex для пользователей в Европейском союзе. Мера связана с требованиями прозрачности EU AI Act, которые вступили в силу 2 августа. Для разработчиков, использующих API OpenAI по всему миру, опция доступна уже сейчас для отдельных моделей, но по умолчанию отключена.
Как работает textGrain
Водяной знак не выглядит как символ или подпись в готовом тексте. Метод textGrain незаметно влияет на выбор слов моделью и формирует статистический паттерн, который читатель не видит, но может обнаружить специальная система.
Поскольку паттерн заложен в самом тексте, он сохраняется при копировании и вставке. OpenAI подчёркивает, что метка не идентифицирует пользователя. Компания также заявила, что при включённой маркировке не заметила значимого ухудшения производительности моделей.
Технический отчёт OpenAI подготовила совместно с исследователями Пенсильванского университета и Йельского университета. В описанном примере секретный ключ сортирует варианты следующего слова; множество таких небольших изменений позволяет детектору распознавать текст при наличии текста и ключа.
Ограничения распознавания
OpenAI отдельно предупреждает, что маркировку можно ослабить редактированием. В одном из тестов замена 10% слов синонимами снизила вероятность обнаружения примерно с 92% до 66%. Короткие фрагменты, ответы с математическими вычислениями и переведённые тексты также распознаются хуже.
Поэтому на первом этапе доступ к детектору получат одобренные исследователи и профильные организации. Отсутствие водяного знака не доказывает, что материал написан человеком: текст мог быть коротким, существенно отредактированным или созданным другой ИИ-системой.
Контекст решения раскрывает маркировка текстов ChatGPT и Codex в Евросоюзе и показывает, что маркировка применяется к продуктам OpenAI в ЕС, а не становится глобальной настройкой по умолчанию. Компания отмечает: метка способна указывать на то, что система OpenAI создала или обработала часть фрагмента, но не измеряет вклад человеческих решений, редактуры и творчества.
Что учитывать компаниям
Бизнесу, использующему ChatGPT, Codex или API OpenAI, стоит заранее определить, где требуется прозрачность происхождения текста и как будут проверяться материалы после редактуры. Водяной знак может быть техническим сигналом для проверки, но не заменяет оценку контекста, авторства и качества контента.