GLM-5.2 сократила отставание от лидеров ИИ, сохранив разрыв в безопасности
Китайская компания Z.ai приблизила open-weight модель GLM-5.2 к передовым системам OpenAI и Anthropic. По оценке некоммерческой организации SaferAI, её кибернетические и биологические возможности отстают от GPT-5.5 и Claude Opus 4.7 лишь на несколько месяцев. При этом GLM-5.2 не отказалась ни от одного предложенного задания по наступательной кибербезопасности или биологии двойного назначения.
Возможности растут быстрее защитных механизмов
SaferAI проверяла GLM-5.2 через публичный API Z.ai. Для сравнения, Claude Opus 4.7 настолько последовательно отказывалась выполнять опасные запросы, что организация не смогла завершить на ней CyberGym — тест возможностей в сфере кибербезопасности.
Z.ai может применять ограничения в облачном API, однако после загрузки весов контроль провайдера исчезает. Пользователь способен запустить модель на собственной инфраструктуре, удалить или изменить защиту, настроить системные инструкции и провести дополнительное обучение.
Закрытые модели обычно защищают классификаторами, обучением отказам и контролем на уровне API. Эти меры тоже можно обходить: Far.ai обнаружила сотни универсальных джейлбрейков для Grok 4.5 и Gemini 3.1 Pro. Исследователи сочетали ролевые сценарии, имитацию авторитета, вымышленную историю диалога и уточняющие запросы.
Какие меры предлагает индустрия
Исполнительный директор SaferAI Генри Пападатос подчёркивает, что риск определяется не только уровнем возможностей, но и состоянием защитных мер. Один из вариантов — фильтровать обучающие данные до тренировки. Исследования указывают, что такой подход может уменьшить объём опасных биологических знаний без ухудшения общих показателей модели.
В кибербезопасности фильтрация менее практична: трудно создать сильную в программировании универсальную модель, которая при этом не помогала бы во взломе. Поэтому разработчики ограничивают отдельные виды помощи. Например, Anthropic указывает, что Opus 5 может искать уязвимости в некомпилированном исходном коде, но не в скомпилированном программном обеспечении.
Другие меры включают проверки перед выпуском, публикацию оценки рисков и отказ от распространения весов чрезмерно опасной системы. По сведениям SaferAI, Z.ai не опубликовала для GLM-5.2 систему безопасности, обязательства по предварительному тестированию или оценку рисков. На вопрос о внутренних либо независимых проверках компания не ответила.
Открытые веса остаются предметом спора
Сторонники открытых весов считают их полезными для защиты: компании могут изучать будущие угрозы и заранее устранять уязвимости. В контексте взлома Hugging Face моделью OpenAI применение GLM-5.2 показало, что одна и та же технология способна участвовать в отражении автоматизированной атаки.
Пападатос возражает, что защитная польза не оправдывает свободное распространение опасных возможностей. По его словам, злоумышленники внедряют новые инструменты быстрее защитников: группа вымогателей может изменить методы за неделю, тогда как больница не способна перестроиться столь же быстро.
Практический вывод для компаний
При выборе open-weight модели бизнесу недостаточно сравнивать точность, цену и скорость. Нужно отдельно оценивать опасные сценарии, опубликованные тесты, ограничения доступа, возможность изменения защиты и ответственность владельца инфраструктуры. Чем свободнее распространяются веса, тем меньше компания может рассчитывать на контроль исходного разработчика и тем важнее собственная проверка перед внедрением.