Google добавила TPU 8tx и TPU 8i Max в линейку ИИ-ускорителей

Google представила два специализированных ускорителя восьмого поколения TPU: TPU 8tx для конфиденциального обучения и запуска ИИ-моделей, а также TPU 8i Max, который в одном корпусе удваивает память, вычислительную мощность и пропускную способность относительно TPU 8i. Новинки расширяют собственный портфель чипов Google Cloud для задач искусственного интеллекта.
TPU 8tx для работы с чувствительными данными
TPU 8tx разработан Google совместно с AMD и основан на TPU 8t. Компания позиционирует его для сценариев, где требуется конфиденциально обучать модели и выполнять инференс.
По описанию Google, защита встроена непосредственно в аппаратный уровень: чувствительные данные и веса моделей должны оставаться защищёнными и изолированными даже во время активного использования. Такой подход адресован организациям, которым необходимо работать с собственной информацией в ИИ-системах.
Ускоритель также получил специальную сеть для инференса. Она позволяет выполнять рассуждения параллельно с обучением и, как указывает Google, дистиллировать и обучать небольшие модели по ходу работы. Компания приводит в качестве примера использование собственных данных без необходимости переносить их между устройствами.
Больше памяти для инференса
TPU 8i Max объединяет два ориентированных на инференс чипа TPU 8i, представленных Google в апреле. Объединение выполнено в едином корпусе и даёт вдвое больше памяти, вычислительных ресурсов и пропускной способности.
Google связывает эту конфигурацию со способностью ИИ-моделей обрабатывать более широкий объём информации при ответе на запросы. Речь идёт не о новой отдельной архитектуре, а о более ёмком варианте уже представленного ускорителя для инференса.
Контекст для облачных клиентов
Новые продукты развивают представленные Google TPU 8t и TPU 8i и уточняют специализацию восьмого поколения: TPU 8tx рассчитан на защищённые сценарии, а TPU 8i Max — на задачи, требовательные к памяти и пропускной способности.
Google развивает собственные полупроводники на фоне аналогичных усилий Microsoft, Amazon, OpenAI и Anthropic. Компании создают специализированные ИИ-чипы и сопутствующее программное обеспечение, стремясь снизить зависимость от поставщиков внешних ускорителей.
Практический вывод для бизнеса состоит в том, что при подборе облачной ИИ-платформы стоит сопоставлять конкретный тип нагрузки с характеристиками ускорителя: требования к конфиденциальности данных — с TPU 8tx, а потребность в большем объёме контекста при инференсе — с TPU 8i Max.

