AIインフラの重心はピークフロップスからラックあたりの持続スループットへと移行しています。AAI 2026でAMDは、HeliosをMI400アクセラレータ、第6世代EPYCホストノード、Pensandoネットワーキング、ROCmソフトウェアを共同最適化したラックスケールシステムとして位置付け、推論とエージェントタスクのスループット最大化を目指しました。戦略的な賭けは、顧客がパーツではなくラックを購入し、独自ロックインよりもオープンソフトウェアとより高いトークンあたりコスト効率を重視するというものです。
なぜ今これが重要かというと、展開パターンがマルチテナント推論、検索強化生成、エージェントパイプラインへと傾いており、より厳しいレイテンシ予算と高い同時実行性を要求しているためです。これによりメモリ帯域幅、インターコネクトトポロジー、ホストCPUスケジューリングが生のGPU演算と同じくらい重要になります。ラックレベルでのアーキテクチャ決定(GPU数、ホストバランス、メモリ容量、ネットワークファブリック)を統合することで、Heliosはアクセラレータへの供給を維持し、スパイキーでインタラクティブなワークロード全体で高い利用率を保つことを目指しています。
AMDは幅広さも推進しました。高密度ホストコンピュート向けのEPYC第6世代、フロンティアおよび高精度ジョブ向けのMI400シリーズ、さらにROCmスタックの拡充とROCm.aiによるソフトウェア有効化の加速です。ロードマップは2030年までの年次リズムと、チップだけでなくシステム経済性で競争する意図を示しています。オペレーターにとっての即時の示唆は実用的で、トークンあたりコスト、ソフトウェアの移植性、電力密度、ラックスケールでの納期を基にTCOモデルを再評価することです。


