Mistral представила Large 4 с триллионом параметров

Французская Mistral AI выпустила мультимодальную модель Mistral Large 4, также называемую ML4 или Le Chonk, с одним триллионом параметров. Пока она доступна только через публичный endpoint с защитными ограничениями, а открыть веса компания планирует через три недели, после завершения проверок безопасности.

Ставка на открытые веса после проверки безопасности

Mistral позиционирует ML4 как альтернативу одновременно закрытым моделям и открытым решениям, значительная часть которых создаётся в Китае. В компании подчёркивают, что открытые веса проще аудировать, но их публикация требует мер, которые снизят риск вредоносного применения.

Вице-президент Mistral по науке Пьер Сток сообщил TechCrunch, что до публикации весов компания будет работать с доверенными партнёрами и государственными структурами. Цель — обеспечить применение модели для защиты, а не для проведения вредоносных атак.

Контекстом для нового релиза стала привлечение €3 млрд на суверенную AI-инфраструктуру и развитие Mistral собственной AI-инфраструктуры, на которую компания делает ставку наряду с выпуском моделей для корпоративного рынка.

4 000 GPU и корпоративные сценарии

По словам Стока, ML4 полностью обучали на вычислительных мощностях Mistral с использованием 4 000 GPU NVIDIA. Компания заявляет, что это в два-три раза меньше, чем у её китайских конкурентов, и заметно меньше, чем у разработчиков закрытых моделей.

Результаты независимых бенчмарков для ML4 ещё не опубликованы. Mistral рассчитывает на лидерство среди моделей с открытыми весами, особенно за пределами Китая, а также на конкурентоспособность с закрытыми системами в отдельных задачах.

К приоритетным сценариям компания относит кибербезопасность, финансы и проектирование чипов. Последнее направление важно и для инвесторов Mistral: ASML возглавила раунд Series C, а Samsung — раунд Series D, оценивший компанию в 21 млрд евро.

Что учитывать заказчикам

Для организаций релиз означает появление ещё одного крупного мультимодального варианта, но не готового открытого развёртывания прямо сейчас. До публикации весов ML4 можно оценивать через защищённый endpoint, а после неё отдельно проверять условия использования, результаты тестов безопасности и соответствие модели конкретным задачам компании.