Nvidia инвестировала $14 млн в индийскую Simplismart
Nvidia участвовала в раунде Series B индийского стартапа Simplismart на $14 млн. Компания из Бангалора разрабатывает ПО для оптимизации инференса ИИ-моделей на имеющейся инфраструктуре, в том числе для сокращения потребности в GPU при отдельных нагрузках. Раунд возглавила Dallas Venture Capital; также в нём участвовали Accel, Shastra VC и Micromax. Оценка четырёхлетнего стартапа с учётом новых средств составила около $100 млн.
Настройка инференса под требования заказчика
Simplismart размещает своё программное обеспечение между ИИ-моделью и вычислительной инфраструктурой. Платформа автоматически настраивает развёртывание и управление моделью с учётом требований конкретного приложения: времени ответа, числа обрабатываемых запросов и потребления вычислительных ресурсов.
Генеральный директор и сооснователь Амританшу Джайн подчёркивает, что заказчикам не всегда нужен самый быстрый или самый дешёвый инференс. Задача состоит в подборе скорости и стоимости, подходящих для их сценария. Такой подход отличается от заранее заданных режимов ускоренного либо более дешёвого запуска моделей.
Стартап предлагает запуск моделей как на собственной платформе, так и в существующих облачных и локальных средах клиентов. В набор также входят средства дообучения моделей, автоматического масштабирования вычислительных ресурсов при изменении спроса и мониторинга производительности.
Клиенты и интеграция с Nvidia
Simplismart заявляет, что помогла платформе генерации видео InVideo сократить расходы на обслуживание GPU на 56%. Среди других клиентов названы ИИ-компании HeyGen и Higgsfield, а также корпоративный ИИ-стартап Ema. Индийский облачный провайдер Yotta использует технологию Simplismart для serverless-сервиса ИИ-инференса в своей платформе Shakti Studio.
Компания также позволяет облачным провайдерам создавать и эксплуатировать собственные сервисы инференса на GPU-инфраструктуре. Nvidia параллельно с инвестицией работает со Simplismart над техническими интеграциями, включая решения вокруг ПО для инференса Nvidia Dynamo. В работе участвуют инженеры стартапа и архитекторы решений Nvidia; производитель GPU также знакомил компанию с потенциальными заказчиками и партнёрами.
Рост на фоне дорогих вычислений
По словам Джайна, годовой темп выручки Simplismart за последние шесть месяцев вырос в 14 раз и достиг восьмизначной суммы. Показатель рассчитан по недавнему потреблению клиентов, а не по законтрактованной регулярной выручке; платежи, передаваемые инфраструктурным провайдерам, из него исключены. Точная сумма не раскрывается. Более половины выручки стартап получает в США, хотя число его клиентов в Индии выше.
Участие Nvidia выглядит необычно, поскольку ПО Simplismart способно сделать часть нагрузок менее требовательными к числу GPU. Джайн считает, что более эффективный инференс может повысить привлекательность аппаратуры Nvidia и расширить использование ИИ-приложений. Для бизнеса практический вывод заключается в том, что при планировании ИИ-сервисов стоит оценивать совокупную стоимость владения и соблюдение SLA, а не только наращивать парк ускорителей.