OpenAI и Broadcom представили Jalapeño — ускоритель для инференса LLM, ориентированный на энергоэффективность и масштаб

Друзья, хочу поделиться из экосистемы OpenAI: OpenAI и Broadcom представили Jalapeño — новый ускоритель для инференса LLM.

Что произошло: чип разработан OpenAI и реализован Broadcom; от дизайна до tape‑out — 9 месяцев.

Ключевое: ранние тесты показывают существенно лучшую производительность на ватт; архитектура снижает перемещение данных и балансирует вычисления, память и сеть.

Развертывание: планируется масштабирование до гигаваттных дата‑центров и многопоколенная платформа с партнёрами.

Почему это важно: снизит стоимость и задержки вывода, сделает LLM‑сервисы быстрее и доступнее.

Как это повлияет на Вашу инфраструктуру и планы по использованию LLM?

#OpenAI #Чипы #ИИ #Инфраструктура