［開発者向け］NVIDIA GB300、新ベンチマークでH200比20倍のエージェント処理性能を記録

2026-07-20

はじめに

　NVIDIAは2026年6月12日、AI分析企業Artificial Analysisが開発した新しいハードウェアベンチマーク「AA-AgentPerf」の結果を公式ブログで公開しました。本稿では、コーディングエージェントの処理能力を測る新指標の仕組みと、GB300 NVL72が記録した性能について解説します。

参考記事

タイトル: NVIDIA Achieves Leading Agentic Coding Performance on First Agentic AI Benchmark
著者: Eduardo Alvarez, Shobhit Verma, Amit Kushwaha
発行元: NVIDIA Developer Blog
発行日: 2026年6月12日
URL: https://developer.nvidia.com/blog/nvidia-achieves-leading-agentic-coding-performance-on-first-agentic-ai-benchmark/

要点

AA-AgentPerfは、Artificial Analysisが開発した業界初のマルチベンダー型エージェント処理ベンチマークであり、推論システムが同時に処理できるAIエージェント数をSLO(サービス品質目標)基準で測定するものである
実際のコード修正タスクを再現した「エージェント軌跡」を用い、12以上のプログラミング言語と複数のフロンティアモデルの応答をもとに構築されている
DeepSeek-V4-Proを対象に3段階のSLO階層で測定した結果、NVIDIA GB300 NVL72はH200と比較して1メガワットあたり最大20倍の同時稼働エージェント数を記録した
SGLangやTensorRT-LLM、vLLMなどのランタイム最適化に加え、NVLinkによる72GPU規模の高帯域結合が性能向上に寄与している
NVIDIAは次世代のVera Rubinプラットフォームで、さらなる性能向上を見込んでいる

詳細解説

AA-AgentPerfとは何か

　AA-AgentPerfは、AI分析企業Artificial Analysisが開発したハードウェアベンチマークです。NVIDIAのブログによれば、推論システムがモデルごとに定められたSLO(サービス品質目標)を満たしながら、同時にどれだけの数のAIエージェントを処理できるかを測定する、業界初のマルチベンダー型オープンベンチマークだと説明されています。

　SLOは、出力トークン速度と最初のトークンが出力されるまでの時間(TTFT: Time To First Token)のしきい値として定義されます。測定結果はアクセラレータ1基あたり、および消費電力1メガワットあたりで正規化されており、異なるハードウェア構成同士を比較しやすくなっています。こうした正規化は、データセンター規模での性能比較を行ううえで実用的な仕組みだと考えられます。

非決定的なエージェント処理をどう測定するか

　エージェントによる処理は、大規模言語モデル(LLM)の判断によってリクエストやツール呼び出しの順序が毎回変わる非決定的な性質を持ちます。AA-AgentPerfは、この非決定性を「エージェント軌跡」として記録済みの実行系列で再現する方式を採っています。軌跡は、公開コードリポジトリの実際の課題を12以上のプログラミング言語で解決する形で構築されており、フロンティアモデルの応答をもとにしています。

　入出力のトークン長は5,000から131,000まで幅があり、平均は約27,000トークンです。ツール呼び出しは1秒の中央値遅延を持つ分布でシミュレートされ、すべてのテスト対象システムに同じCPU側の基準が適用されています。またテストセットは非公開に保たれており、ベンチマークを狙い撃ちした最適化を防ぐ狙いがあると考えられます。

測定方法とSLO階層

　測定では、GPUに対して記録済みのエージェント軌跡データセットから数千件の同時リクエストを送信します。動的なプレフィックスを各軌跡の開始時に付与することで、実行ごとの独立性を確保しているとのことです。軌跡全体を通して厳格なSLOしきい値を適用し、その基準を満たす最大の同時実行数が、そのSLOにおける公式なベンチマーク結果として記録されます。

　発表時点では、DeepSeek-V4-Proを対象に3段階のSLO階層で測定が行われました。SLO#1は出力速度30トークン/秒・TTFT10秒、SLO#2は100トークン/秒・5秒、SLO#3は300トークン/秒・3秒という基準です。これらはArtificial AnalysisがサーバーレスAPIのベンチマークデータから導いた水準で、実運用のプロバイダーで観測される品質水準を反映しているとのことです。

GB300 NVL72の測定結果

　NVIDIAによれば、GB300 NVL72は1メガワットあたり61,400体のエージェントを同時処理でき、前世代のH200(2,600体)と比較して最大20倍の性能を記録しました。GPU1基あたりの処理数でも57.5体対1.4体と、大きな差が見られます。

　この性能差の背景には、複数の最適化が組み合わさっていると説明されています。SGLangやTensorRT-LLM、vLLMといったエージェント実行基盤ではWideEPやDeepEPといった手法でMoE(専門家混合)エキスパートの処理をNVL72ドメイン全体に分散させ、実効バッチサイズを最大化しています。さらにDeepGEMMやMXFP4/MXFP8カーネルによるMoE最適化がNVLink通信とテンサーコア演算を重ね合わせ、トークン処理速度を高めています。加えてNVLinkが72基のGPUを単一の高帯域ドメインとして結合しており、パラメータやKVキャッシュを高速に共有できる構成になっています。

　メガワットあたりの処理能力という指標は、データセンターの電力予算に対してどれだけのエージェントセッションを支えられるかを見積もる際の目安になると考えられます。電力コストが運用の大きな制約になる環境では、この種の正規化指標が導入判断の参考になりそうです。

今後の展望:Vera Rubinプラットフォーム

　NVIDIAは、次世代のNVIDIA Nemotron 3 Nano Omniでもエージェント処理を高速化する取り組みを発表していましたが、今回のAA-AgentPerfの結果は、そうしたエージェント特化の最適化がハードウェア基盤でも着実に積み上がっていることを示していると言えます。NVIDIAは今後のVera Rubinプラットフォームで、NVFP4形式による50PFLOPsの演算性能とVera CPUによるLLMツール呼び出しの高速化を活用し、エージェント処理の性能・経済性・効率をさらに引き上げる見込みだとしています。

まとめ

　AA-AgentPerfは、エージェント処理の非決定性を軌跡データで再現し、SLO基準で比較可能にした点が特徴です。GB300 NVL72の結果は、ハードウェアとソフトウェアの協調設計が処理能力を左右することを示していると言えます。エージェント関連のベンチマークは過去記事でも取り上げていますので、ぜひご覧ください。