Пользователи Claude раскритиковали водяные знаки Anthropic
Anthropic начала внедрять невидимые водяные знаки в редакционные тексты, созданные Claude. Метки должны позволять компьютерным системам определять ИИ-генерацию; решение связано с кодексом прозрачности EU AI Act, требующим маркировать контент, созданный или отредактированный искусственным интеллектом.
Спор о маркировке Claude
После сообщения о новой политике в Reddit появились критические комментарии. Часть пользователей опасается, что водяные знаки сделают заметным использование чат-бота в учёбе и на работе, даже если модель применялась для переработки абзаца, краткого пересказа документа или поиска формулировок.
В обсуждениях звучало и другое возражение: пользователь может задавать инструкции, предоставлять контекст, принимать решения и многократно уточнять результат, поэтому считает Claude лишь инструментом своей работы. Критики задаются вопросом, что именно в таком случае маркирует система.
Оппоненты этой позиции отмечают, что водяной знак не означает заявления Anthropic об авторстве текста. Его задача — дать возможность распознать материал, сгенерированный моделью, поскольку такой контент может создавать риски в разных ситуациях.
Требования прозрачности и практический контекст
Новая политика продолжает курс, о котором компания сообщала в материале водяные знаки в текстах моделей Claude: водяные знаки предназначены для текстов, генерируемых моделями Claude, и должны быть невидимыми для читателя, но идентифицируемыми техническими средствами.
Один из участников Reddit указал на противоречие: модели обучались на больших массивах чужих работ, поэтому маркировка созданного ими текста воспринимается как неоднозначный шаг. Однако значительная часть комментаторов поддержала нововведение, считая, что отсутствие метки может быть нужно прежде всего для сокрытия происхождения материала.
Что учитывать компаниям
Для организаций изменения означают, что генеративный ИИ нельзя рассматривать как незаметный канал подготовки готовых публикаций, учебных работ или служебных документов. Рабочие процессы с Claude стоит строить вокруг проверки фактов, ответственности человека за итоговый текст и понятного раскрытия роли модели там, где это необходимо.