［ニュース解説］Google、第8世代TPUを2チップ構成で発表——訓練特化「TPU 8t」と推論特化「TPU 8i」でエージェント時代に対応

2026-04-25

はじめに

　GoogleのAI・インフラ担当SVPであるAmin Vahdat氏が、2026年4月22日にGoogle Cloud Nextにて第8世代TPU（Tensor Processing Unit）を発表しました。今世代の特徴は、用途ごとに最適化された 「TPU 8t」（訓練向け） と 「TPU 8i」（推論向け） の2チップ体制への移行です。本稿では、両チップの設計思想と主な仕様、提供形態について解説します。

参考記事

タイトル: Our eighth generation TPUs: two chips for the agentic era
著者: Amin Vahdat（SVP and Chief Technologist, AI and Infrastructure）
発行元: Google Blog
発行日: 2026年4月22日
URL: https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/eighth-generation-tpu-agentic-era/

要点

Googleが第8世代TPUとして訓練特化「TPU 8t」と推論特化「TPU 8i」の2種類を同時発表した
TPU 8tは1スーパーポッドで9,600チップ・2ペタバイトのHBM・121エクサフロップスの計算性能を実現し、前世代比で約3倍のポッド単位計算性能を達成した
TPU 8iは前世代比で性能対コスト比が80%向上し、同コストでほぼ2倍のユーザー対応が可能になった
両チップとも前世代（Ironwood）比で最大2倍の電力効率を達成し、第4世代液冷技術を搭載する
JAX、PyTorch、SGLang、vLLMをネイティブサポートし、年内に一般提供が開始される予定だ

詳細解説

2チップ体制の背景：訓練と推論の需要分離

　Googleによれば、今回の第8世代TPUは「10年以上にわたる開発の集大成」と位置づけられています。これまでのTPUは訓練・推論の両用途を一つのチップで担ってきましたが、第8世代では用途別の専用設計に踏み切りました。

　この判断の背景には、AIエージェントの普及があります。エージェントは問題を段階的に推論し、複数ステップのワークフローを実行し、自身の行動から継続的に学習するという動作特性を持ちます。このような推論ループは、訓練とは異なる種類のハードウェア特性を必要とします。Googleはこの需要の分岐を数年前から見越し、チップ設計の専門化を進めてきた、とのことです。

　第7世代のIronwoodは推論時代を見据えた設計でしたが、今回の第8世代ではさらに踏み込み、訓練と推論を完全に異なるアーキテクチャで対応する体制へと移行しています。

TPU 8t：大規模訓練の新基準

　TPU 8tは「フロンティアモデルの開発サイクルを数カ月から数週間に短縮する」ことを目標に設計されています。Googleによれば、1スーパーポッドあたりの規模は最大9,600チップ、2ペタバイトの共有HBM（高帯域幅メモリ）に達し、合計121エクサフロップスの計算性能を提供します。チップ間帯域幅は前世代比で2倍に向上しています。

　ストレージアクセス速度は10倍高速化されており、TPUDirect機能によってデータをTPUに直接取り込む仕組みが導入されています。これにより、I/O待機によるチップのアイドル時間を大幅に削減できると考えられます。

　スケーリング面では、新開発の「Virgo Network」とJAX・Pathwaysソフトウェアを組み合わせることで、単一の論理クラスターとして最大100万チップまでほぼ線形にスケールできる設計とのことです。大規模訓練では理論上の計算性能よりも「有効稼働率」が重要ですが、TPU 8tはRAS（信頼性・可用性・保守性）機能の強化により97%以上の「グッドプット（実効計算時間の比率）」を目標としています。リアルタイムのテレメトリ監視、障害発生時の自動迂回、光回路スイッチング（OCS）による無停止再構成などが、この高稼働率を支えています。

TPU 8i：エージェント時代の推論エンジン

　TPU 8iは、複数のエージェントが「スワーミング（群れ動作）」する複雑なワークフローを低レイテンシで処理することを主眼に設計されています。Googleはこの課題を「メモリウォール問題」と表現しており、プロセッサが処理待ちでアイドル状態になることを防ぐための設計変更を4つ挙げています。

　第一に、288GBのHBMと384MBのオンチップSRAMの組み合わせです。SRAMは前世代比3倍に増量されており、モデルの作業領域をチップ上に保持しやすくなっています。大規模な推論モデルでは、KVキャッシュ（トークン処理の中間状態を保存するメモリ領域）の容量不足がボトルネックになることが多く、この拡張は推論性能に直結すると考えられます。

　第二に、CPU部分をGoogle独自のAxion（Arm系）プロセッサに移行し、1サーバーあたりの物理CPUホスト数を2倍に増やしたこと。NUMA（不均一メモリアクセス）アーキテクチャを採用することで、システム全体の効率を最適化しています。

　第三に、MoE（Mixture of Experts）モデル向けのICI（インターチップ相互接続）帯域幅を19.2Tb/sと前世代比2倍に拡大し、新しい「Boardfly」アーキテクチャによってネットワーク最大直径を50%以上削減したこと。これにより、多数のチップが一つの低レイテンシなユニットとして動作します。

　第四に、新設計のオンチップ「CAE（Collectives Acceleration Engine）」によるグローバル演算のオフロードです。オンチップレイテンシを最大5分の1に削減できるとのことです。

　これらの改善により、前世代比で性能対コスト比が80%向上し、同じコストでほぼ2倍のユーザーリクエストを処理できると発表されています。

電力効率とフルスタック設計

　Googleは「データセンターにおいて、チップの供給だけでなく電力も制約要因になっている」と指摘しています。TPU 8tとTPU 8iはいずれも前世代（Ironwood）比で最大2倍の電力効率を達成しており、第4世代液冷技術で高密度実装時の熱管理を担います。

　また、Axion CPUホスト・アクセラレーター・ネットワーク・データセンター設備を一体で設計する「フルスタックアプローチ」を採用しており、ホストとチップを独立設計した場合には得られないシステムレベルの効率化が可能になると説明されています。Googleによれば、自社データセンターは5年前と比べて同じ電力あたり6倍の計算性能を提供できるようになったとのことです。

提供形態と対応フレームワーク

　両チップはJAX、MaxText、PyTorch、SGLang、vLLMをネイティブサポートしており、既存の開発環境との互換性が確保されています。仮想化のオーバーヘッドを排除したベアメタルアクセスも提供されます。オープンソース面では、MaxTextのリファレンス実装や強化学習向けのTunixなどのツールも整備されています。

　両チップは2026年内に一般提供開始予定で、Googleの「AI Hypercomputer」（専用ハードウェア・オープンソフトウェア・柔軟な消費モデルを統合したスタック）の一部として提供されます。

まとめ

　GoogleはTPU第8世代で、訓練と推論を別チップで最適化するという明確な設計方針を示しました。エージェント動作が前提となる時代において、推論側の低レイテンシと高稼働率をどう確保するかが主要な課題になりつつあり、TPU 8iのアーキテクチャはその問いに対する一つの答えだと思います。年内の一般提供開始に向けた続報に注目したいと思います。