В 2018 году Джон Хеннесси и Дэвид Паттерсон выступили на симпозиуме ISCA с лекцией «Новый золотой век компьютерной архитектуры» и предсказали кембрийский взрыв специализированных чипов. Восемь лет спустя прогноз сбылся настолько буквально, что обзор Джейкоба Пика на 24 тысячи слов едва вмещает всех серьёзных игроков. Мы разобрали этот текст и рассказываем главное: чем отличаются GPU, TPU, wafer-scale и LPU, кто куда делся и почему рынок не сходится к одному победителю, а расходится.

Что такое архитектура ИИ-чипа

Архитектура ИИ-чипа это набор фундаментальных решений о том, как чип выполняет матричные умножения: где хранятся веса, кто планирует вычисления (аппаратура или компилятор), как чипы соединяются между собой и как их программируют. Именно эти решения, а не количество транзисторов, определяют, для каких задач чип эффективен, а для каких бесполезен.

Проблема, которую все решают по-разному

Контекст важен. В 1980-х однопоточная производительность CPU росла на 52% в год. К 2018 году, с концом закона Мура и масштабирования Деннарда, темп упал до 3% в год. Уже тогда работал пример альтернативы: первый Google TPU показывал в 29 раз большую пропускную способность на инференсе нейросетей при в 80 раз лучшей энергоэффективности, чем CPU.

Вся вычислительная нагрузка ИИ сводится к матричным умножениям. Обучение фронтирной модели это порядка 10^25 операций умножения с накоплением. Но форма этих умножений разная, и в этом корень всего зоопарка. Обучение и фаза prefill (приём промпта) складывают тысячи токенов против одной матрицы весов: большие операции GEMM, высокая арифметическая интенсивность, вычислительно-ограниченный режим. Декодирование (генерация ответа токен за токеном) превращает каждое умножение в GEMV: один токен за шаг, полный проход по всем весам модели плюс чтение KV-кэша, и арифметическая интенсивность падает на порядки. Системы борются с этим через continuous batching, спекулятивное декодирование и предсказание нескольких токенов сразу, но физика не отменить: инференс упирается в пропускную способность памяти, а обучение в чистые вычисления. Разные фазы, разные узкие места, разные оптимальные чипы.

NVIDIA GPU: программируемость как ров

GPU NVIDIA это массивно-параллельный процессор общего назначения. Философия: один программируемый чип с тысячами потоков под управлением CUDA должен уметь всё, от обучения трансформеров до рендеринга графики. Генеалогия впечатляет: Pascal в 2016 принёс NVLink, HBM2 и нативный FP16; Volta в 2017 добавила тензорные ядра; Hopper в 2022 дал FP8 и Transformer Engine; Blackwell в 2024 перешёл на FP4 и двухкристальный пакет. Впереди Rubin (2026) с памятью HBM4 и отдельным чипом Rubin CPX для дезагрегированного prefill, а в 2027 Rubin Ultra обещает четырёхкристальный пакет с 1 ТБ HBM4e и 100 петафлопс FP4 в стойках на 600 кВт.

Цифры из сводной таблицы Пика дают масштаб гонки: H100 (2023) это 80 ГБ HBM3 и 1,98 петафлопс FP8 при 700 Вт; B200 (2024) уже 192 ГБ и 4,5 петафлопс FP8; B300 (2025) поднимает планку до 288 ГБ и 15 петафлопс FP4 при 1400 Вт.

Но настоящий ров NVIDIA не кремний, а софт. Любое CUDA-ядро, написанное с 2007 года, скомпилируется и заработает на Blackwell. Поверх PTX выстроены два десятилетия библиотек: cuBLAS, cuDNN, CUTLASS, TensorRT-LLM. FlashAttention, одна из важнейших алгоритмических переработок современного ИИ, четыре поколения подряд оптимизировалась в первую очередь под свежее железо NVIDIA, а порты на чужие платформы отставали на месяцы и годы. Большую часть этого стека пишут люди, которым NVIDIA даже не платит. Плюс компания встраивает своих инженеров прямо в команды фронтирных лабораторий, так что новая модель обычно хорошо работает на NVIDIA раньше, чем где-либо ещё. Переход с NVIDIA это не переписывание кода, а переобучение целой инженерной культуры.

Google TPU: машина одного примитива

TPU стоит на противоположном полюсе: никакой универсальности, только плотное матричное умножение на большом систолическом массиве. Никакого аппаратного планировщика, кэшей и варпов: компилятор XLA рассчитывает каждый цикл и каждый байт заранее. Чип не претендует на рендеринг или научные расчёты, он существует, чтобы обучать и обслуживать нагрузки Google дешевле по ваттам, чем любая универсальная альтернатива.

Эволюция идёт через масштабирование подов: TPU v4 (2020) впервые применил оптические коммутаторы Palomar и 4096-чиповые поды, v5p довёл под до 8960 чипов, Trillium (2024) с массивом 256×256 обучил Gemini 2.0. Ironwood (2025) построен под инференс reasoning-моделей: нативный FP8, суперподы на 9216 чипов, 42,5 экзафлопс FP8. TPU v8 (2026) добавляет FP4 и 121 экзафлопс в поде на 9600 чипов. Вертикальная интеграция работает: Gemini обучается на TPU, а Anthropic получит до миллиона этих чипов.

Cerebras: не резать вафлю

Философия Cerebras звучит как дерзость: стена памяти это следствие того, что вафлю режут на кристаллы. Фабрика печатает десятки чипов на 300 мм кремния и распиливает их, а индустрия потом тратит экзотическую инженерию (HBM, NVLink, тысячи медных кабелей на стойку), чтобы сшить части обратно на долю внутрикристальной пропускной способности. Cerebras просто пропускает распил.

Wafer-Scale Engine 3 это один кусок кремния: 4 триллиона транзисторов, 900 тысяч dataflow-ядер, 44 ГБ SRAM в одном такте от вычислительного блока, агрегатная пропускная способность 21 ПБ/с при 23 кВт на систему. Никакой иерархии: плоская двумерная сетка одинаковых ядер, исполнение по потоку данных, ядро простаивает, пока не придёт вейвлет с работой. Именно на этой архитектуре получен самый быстрый независимо измеренный декод в индустрии, и сегодня Cerebras обслуживает инференс OpenAI.

Groq LPU: детерминизм доведён до предела

Каждый другой чип тратит кремний на толерантность к неопределённости: кэши скрывают задержки памяти, планировщики заполняют простои, арбитры разрешают конфликты. Groq удалил всё это. Никакого кэша, предсказателя ветвлений, арбитра, даже внутричипового коммутатора: компилятор расставляет каждую инструкцию и каждый байт на точный цикл, и задержка чипа известна до его запуска. Память целиком SRAM, сеть тоже планируется статически, и сотни чипов работают как одна программа с точностью до такта.

Цена решения записана в физике: реплика Llama-2 70B занимала около 576 чипов и, по одному из анализов, 144 хостовых CPU с 144 ТБ оперативной памяти против двух CPU у 8-GPU сервера. SemiAnalysis сформулировал жёстко: LPU выигрывает по себестоимости токена, когда оптимизируешься под задержку, и проигрывает GPU примерно на порядок по пропускной способности на доллар, как только начинаешь батчить. Зато впечатляет скорость разработки: Groq поднял LLaMA за четыре дня командой меньше десяти человек, там, где ручная настройка ядер под GPU занимает месяцы.

Финал истории показателен. В декабре 2025 NVIDIA взяла неисключительную лицензию на технологию LPU и наняла основателя Джонатана Росса (того самого, кто начинал TPU как проект на 20% времени в Google) вместе с большей частью команды. Формально это не поглощение, но сумма при закрытии составила порядка 13 миллиардов долларов. На GTC 2026 технология вернулась как NVIDIA Groq 3 LPU: стойка из 256 SRAM-чипов рядом с Rubin NVL72, где трансформер разрезан пополам: GPU исполняют attention, LPU исполняют FFN и MoE-слои, а оркестратором выступает Dynamo. Самая детерминированная архитектура в ИИ стала сопроцессором задержек внутри самой программируемой.

Trainium и AMD: быстрый последователь и открытая экосистема

AWS Trainium это тезис TPU, перестроенный внутри другого облака. Команда Annapurna Labs (куплена Amazon за 350 миллионов долларов) взяла проверенный рецепт: систолический массив 128×128, программно-управляемые скрэтчпады и тот же компилятор XLA, а своё добавила узко и точно: отдельный кремний для коллективных коммуникаций и сеть, которую уже несёт Nitro. Trainium2 питает Project Rainier, Trainium3 (2025) это первый 3-нм чип AWS и UltraServer на 144 чипа. Claude работает более чем на миллионе чипов Trainium.

AMD делает другую ставку: вычислительный блок держат консервативным ещё со времён GCN, а инвестируют в упаковку. Первый 3D-стекированный датацентровый GPU (MI300), первый когерентный APU с CPU и GPU, открытый стек ROCm и открытый интерконнект UALink. MI355X (2025) даёт 288 ГБ HBM3e, 8 ТБ/с и 20 петафлопс FP4, а стойка Helios на 72 чипа MI455X станет первым ответом NVL72. Рынок отвечает: и OpenAI, и Meta дали AMD обязательства на 6 гигаватт.

Taalas: логический конец специализации

Самый радикальный игрок в обзоре это Taalas. Идея: раз веса модели заморожены, их можно не хранить в памяти, а вытравить прямо в кремнии. Базовый кристалл фабрикуется один раз, под каждую модель меняются только слои, кодирующие веса. Радикальный компромисс: ноль гибкости. Чип под 8B не запустит 70B, не запустит DeepSeek-R1 и не запустит файнтюн; любое значимое обновление требует нового прогона фабрики, а после устаревания модели чип не стоит ничего. Радикальный выигрыш: стена памяти исчезает полностью, веса никогда не двигаются, потому что они и есть схема. Taalas заявляет 73-кратный рост пропускной способности против H200 и примерно тысячекратный рост производительности на ватт. Первый чип HC1 под Llama 3.1 8B уже работает, HC2 на 20B ожидается летом 2026. Если стоимость инференса падает на два-три порядка, экономически оправданными становятся вещи вроде всегда включённых персональных ассистентов и ИИ в каждом IoT-устройстве.

Что где выигрывает

Картина из обзора складывается так. Большое обучение фронтирных моделей: NVIDIA экосистемой, TPU масштабом Google, Trainium экономикой AWS. Пакетный инференс на миллионы пользователей: систолические TPU и специализированные MTIA. Реалтайм с минимальной задержкой: Groq без конкурентов, NVIDIA за счёт гибкости. Задачи, ограниченные объёмом памяти (огромные модели, длинные контексты): AMD с 288 ГБ на чипе и NVIDIA с объединением памяти в NVL72. Почти бесплатный инференс фиксированной модели на периферии: Taalas, если стабильность модели допустима.

Главный вывод: рынок расходится

Ландшафт ИИ-чипов не конвергирует, а дивергирует. Нагрузки фрагментируются (обучение против инференса против reasoning, плотные модели против MoE и диффузии, облако против периферии), и оптимальное железо расходится вместе с ними. Эпоха «одного чипа, который правит всеми», похоже, заканчивается. Будущее выглядит как гетерогенная инфраструктура, где разные нагрузки идут на разное специализированное железо, а сложность прячет оркестрирующий софт. Ров CUDA реален, но не непреодолим; вертикальная интеграция Google и AWS мощна, но заперта в их облаках; открытость AMD привлекательна, но не проверена на фронтире. Единственная уверенность: спрос на вычисления будет расти быстрее, чем способна поставлять любая отдельная архитектура.

Часто задаваемые вопросы

Чем TPU отличается от GPU?

GPU это программируемый процессор общего назначения с кэшами и аппаратным планировщиком, исполняющий любые параллельные нагрузки через CUDA. TPU это специализированная машина матричного умножения: систолический массив без кэшей и планировщика, где компилятор XLA рассчитывает каждый цикл заранее. TPU эффективнее по ваттам, GPU гибче.

Почему NVIDIA купила технологию Groq?

Groq LPU непобедим в задержке одиночного декодирования благодаря полностью детерминированной архитектуре на SRAM, но проигрывает GPU по пропускной способности на доллар при батчинге. NVIDIA лицензировала технологию примерно за 13 миллиардов долларов и встроила LPU как сопроцессор задержек рядом с Rubin: GPU исполняют attention, LPU исполняют FFN-слои.

Что такое wafer-scale чип Cerebras?

Это процессор размером с целую кремниевую вафлю, которую не распиливают на отдельные кристаллы. WSE-3 содержит 900 тысяч ядер и 44 ГБ SRAM в одном такте от вычислений, что устраняет стену памяти и даёт рекордную скорость декодирования. Платой являются 23 кВт на систему и сложность производства.

Итог

Архитектуры ИИ-чипов прошли путь от одного рабочего примера (TPU v1 с его 29-кратным преимуществом над CPU) до целого спектра философий: программируемые GPU NVIDIA, систолические TPU, плоский wafer-scale Cerebras, детерминированные LPU и вытравленные в кремний модели Taalas. Общего победителя не будет, потому что не будет единой нагрузки. Практический вывод для инженеров и руководителей: выбирайте железо под конкретный профиль нагрузки (обучение, пакетный инференс, реалтайм или периферия), а не под бренд, и закладывайте в архитектуру системы возможность миграции между платформами. Следующие несколько лет покажут, чья ставка сработает, и наблюдать за этой гонкой стоит внимательнее всего.