Крупные сделки усилили интерес к рынку открытых ИИ-моделей
Nvidia, по сообщениям СМИ, обсуждает покупку платформы Hugging Face примерно за $13 млрд. На этом фоне Nvidia заключила соглашение с разработчиком open-weight моделей Poolside на $6 млрд, предполагающее переход большей части его сотрудников к производителю чипов, а Stripe приобрела OpenRouter более чем за $7 млрд.
Почему активы open-weight стали ценными
Hugging Face служит площадкой для публикации open-weight моделей и бенчмарков. Вокруг неё сформировалось сообщество разработчиков, которые создают и внедряют большие языковые модели, не принадлежащие крупнейшим лабораториям. В этом смысле сервис часто сравнивают с GitHub для эпохи ИИ.
Для Nvidia интерес к этому сегменту связан с необходимостью не зависеть только от сделок с гиперскейлерами и ведущими разработчиками моделей. Крупные лаборатории, включая OpenAI и Google, развивают собственные чипы для инференса. OpenAI на этой неделе раскрыла возможности своего чипа Jalapeño.
Nvidia уже выпускает семейство open-weight моделей Nemotron, однако их распространение пока невелико. Контроль над крупной американской площадкой для открытых моделей потенциально даёт компании прямой доступ к сообществу пользователей, которых можно ориентировать на её вычислительные платформы и стандарты.
Где открытые модели применяют сейчас
Распространение open-weight моделей пока ограничено. Согласно опросу Ramp на основе данных о расходах, ими пользуются 6% компаний. В опросе Jellyfish такие модели используют 2% разработчиков программного обеспечения.
Руководитель ИИ-направления Jellyfish Ник Албарран отмечает, что особенно востребованы они в продуктах с регулярным и массовым инференсом, например в чатах клиентской поддержки. Модель можно настроить под повторяющиеся вопросы и получать ответы с меньшими затратами.
Именно экономику токенов Stripe выделяла при покупке OpenRouter. Основатель и гендиректор Stripe Патрик Коллисон заявил, что реальный экономический потенциал ИИ зависит от эффективного использования дефицитных вычислительных ресурсов.
Контроль важнее немедленной экономии
Для задач программирования и агентных сценариев запросы обычно разнообразнее и требуют более сложного рассуждения. Поэтому модели ведущих закрытых лабораторий нередко остаются предпочтительнее: к ним проще получить доступ, а иногда поставщики субсидируют токены.
Албарран считает, что по мере настройки ИИ-процессов компаниям будет проще обращаться к открытым моделям. Сейчас их выбирают в первую очередь ради контроля и возможности тонкой настройки, а не только для сокращения расходов. Регуляторный контекст также важен: Широкие запреты для open-weight моделей объясняет, почему индустрия выступает против широких запретов, затрагивающих open-weight подход.
Гендиректор Fireworks Линь Цяо сообщила, что её сервис маршрутизации и хостинга для корпоративных клиентов обрабатывает 40 трлн токенов в день. Fireworks делает ставку на разнообразие моделей и их обучение под данные и задачи конкретных компаний.
Практический вывод для бизнеса: выбирать между открытыми и закрытыми моделями следует по характеру нагрузки, требованиям к контролю и зрелости процесса. Для повторяющихся задач самостоятельное размещение и настройка могут быть уместны после того, как рабочий сценарий уже отлажен.