Meta представила MTIA 400 для обучения LLM и рекламного инференса

Двойное назначение MTIA 400 необычно из-за разного характера нагрузок. Обучение LLM требует огромного количества вычислений и масштабирования на десятки или сотни тысяч ускорителей, тогда как инференс deep learning recommender models для рекламы чаще ограничен пропускной способностью памяти. Во втором сценарии значительная часть арифметических блоков простаивает, однако Meta получает возможность загружать собственный чип задачей, которая непосредственно приносит компании выручку.

MTIA 400 собран по гетерогенной многокристальной схеме: в корпусе находятся два вычислительных кристалла, два кристалла ввода-вывода и отдельный SoC для связи с хостом и оркестрации. Вычислительные чиплеты выпускаются по 3-нм техпроцессу и содержат сетку процессорных элементов 6 × 8. При частоте 1,7 ГГц два чиплета вместе обеспечивают 12 петафлопс MXFP4. Архитектура напоминает современные решения Nvidia и AMD; заметное влияние Broadcom указывает на вероятное использование ее XPU-технологий, хотя Meta это прямо не подтверждала.

Подсистема памяти включает восемь стеков HBM3e по 36 ГБ — суммарно 288 ГБ — с пропускной способностью около 9,2 ТБ/с. Такой объем и канал особенно важны для рекламных рекомендаций, где нужно быстро обращаться к большим таблицам признаков и эмбеддингов. Одновременно широкая память помогает обучению моделей, уменьшая давление обмена между ускорителями и позволяя размещать более крупные части состояния непосредственно на устройстве.

На используемых для обучения повышенных точностях MTIA 400 примерно на 20% быстрее максимальной конфигурации Nvidia Blackwell при сопоставимом энергопотреблении. Но сравнение с более свежим поколением уже не в пользу Meta: ускоритель оказывается примерно втрое медленнее Nvidia Rubin и в 3,3 раза медленнее AMD Instinct MI455X. Поэтому результат показывает способность Meta создать конкурентный специализированный чип, но не лидерство относительно актуального внешнего рынка.

MTIA начиналась как семейство чипов для рекламных задач, а модель 400 стала первым полноценным ускорителем Meta, явно нацеленным на обучение генеративного AI. Тем не менее собственный кремний пока не заменит универсальные GPU AMD и Nvidia. Последние лучше подходят для меняющихся архитектур, генеративного инференса и frontier-моделей, тогда как прикладные ускорители эффективнее на стабильных, хорошо изученных нагрузках.

Для Meta ценность MTIA 400 заключается не только в пиковой производительности, но и в контроле над стоимостью вычислений. Компания тратит огромные суммы на инфраструктуру, поэтому даже частичный перенос обучения и рекламного инференса на собственное оборудование снижает зависимость от поставщиков GPU. Практический масштаб этого эффекта будет зависеть от программного стека, выхода годных кристаллов, сетевого масштабирования и того, какую долю реальных задач удастся перенести без потери эффективности.