エヌビディア（NVIDIA）は2026年9月16日、推論ベンチマーク「MLPerf Inference v6.1」で次世代機「Vera Rubin NVL72」の測定結果を初公開しました。2026年後半に量産出荷が見込まれる同基盤の性能値は、さくらインターネットをはじめとする国内事業者のGPUインフラ刷新計画に直接影響を与えます。
MLPerf v6.1におけるVera Rubinと競合各社の測定データ
MLCommonsが2026年9月16日に公表した「MLPerf Inference v6.1」には30組織が参加し、合計486件の測定結果が提出されました。今回の測定では、エヌビディアが次世代アーキテクチャ「Vera Rubin NVL72」をプレビュー区分として登録した点が大きなトピックです。同社は公式発表において、現行Blackwell世代のGB300 NVL72と比較してQwen3-VLで最大3.7倍、DeepSeek-R1で最大2.5倍のスループット向上を主張しました。
しかし、プレビュー提出を行ったネビウス（Nebius）の実測データを分析すると、GPU 1基あたりの実効性能の伸び幅は別の側面を示しています。検証環境におけるVera Rubinは36基（9ノード）、比較対象のGB300は72基（18ノード）で構成されていました。この構成差を排して1GPUあたりのトークン処理性能を割り出すと、オフライン方式で約1.62倍、サーバー方式で約1.96倍となります。
| システム構成 | GPU基数 | オフライン (token/s) | サーバー (token/s) |
|---|---|---|---|
| Vera Rubin NVL72（Nebius） | 36基 | 15,522 / GPU | 16,427 / GPU |
| GB300 NVL72（Nebius） | 72基 | 9,583 / GPU | 8,375 / GPU |
| Instinct MI355X（AMD / Crusoe） | 512基 | 5,668 / GPU | 4,698 / GPU |
この測定ラウンドでは、アドバンスト・マイクロ・デバイセズ（Advanced Micro Devices, AMD）とクルーソー（Crusoe）の連合も注目を集めました。AMDは512基のInstinct MI355Xでクラスタを組み、クラスタ合計で2,901,950 token/s（オフライン）を記録しました。これは288基構成のGB300による2,705,130 token/sを総量で上回る規模です。
ただし、1GPUあたりのスループットに換算すると、GB300がMI355Xに対して約1.66倍の処理能力を維持しています。単純なチップの並列数による力押しではなく、単位シリコンあたりの処理密度では依然としてエヌビディアが優位を保ちます。
また、今回のMLPerf 6.1では新たな評価軸として2つのテストが導入されました。10万件以上の文書ベクトルデータベースを組み合わせた質問応答を評価する「エンドツーエンドRAG」と、Qwen 3.6-27Bを用いた「エージェント推論」です。推論ワークロードが単一のプロンプト処理から、検索や外部ツール連携を含む自律処理基盤へと移行している実態が反映されています。
参考記事: エヌビディアの7500億ドルAI投資とは？循環型資金供給の仕組みとデータセンター刷新の課題
ハードウェア刷新とソフトウェア最適化がもたらす推論効率の分岐点
Vera Rubinが示した1GPUあたり約2倍の性能向上は、推論アーキテクチャの世代交代において大きな進展です。しかし、今回の測定結果が浮き彫りにしたのは、ハードウェアの更新と同等以上にソフトウェアスタックのチューニングがスループットを左右している事実です。
同一のBlackwellハードウェアを用いた検証において、v6.0からv6.1までのわずか5か月間で推論性能が最大1.6倍向上しました。この改善をもたらしたのは、主に3つのソフトウェア技術です。
- KVキャッシュ低精度化: 過去の入力文脈を保持するKey-Valueキャッシュの量子化により、メモリ帯域の消費を大幅に削減
- カーネル融合（Kernel Fusion）: 連続する演算処理を1つのGPUカーネルに統合し、メモリ読み書きのオーバーヘッドを極小化
- 分離型サービング（Disaggregated Serving）: プロンプトを処理するPrefillフェーズと、トークンを逐次生成するDecodeフェーズを異なるノードに分散配置
現行世代のGB200 NVL72でコアウィーブ（CoreWeave）がGPUあたり+19.8%を記録したほか、ラムダ（Lambda）もサーバー方式のBlackwell Ultraで+8.85%の性能向上を短期間で記録しました。さらに1年間の推論性能推移を追うと、アクセラレータ単位の最高処理能力は過去バージョン（v5.1）比で5.7倍に達しています。この伸び幅の過半は、半導体プロセスの微細化ではなく、推論ランタイムの改善によって達成された数値です。
エヌビディア自身も、ソフトウェアの垂直統合を加速させています。2026年9月3日に合意された129億3,000万ドルでのハギングフェイス（Hugging Face）買収は、その戦略を象徴する動きです。オープンソースの軽量推論エンジンである「llama.cpp」を取り込み、モデル流通から推論実行基盤までを包括する体制を構築しています。
一方、セミ・アナリシス（SemiAnalysis）が主導するエージェント向けベンチマーク「AgentX」では、Vera Rubinがメガワットあたり30倍の電力効率を示すと発表されました。しかし、この数値はMLCommonsによる独立検証を経ていない自己申告データです。推論インフラの調達においては、ベンダー発表の最大値と、第三者検証による実効値を明確に区別して評価する必要があります。
参考記事: GPU（グラフィックスプロセッサ）とは？仕組み・最新動向・2030年シナリオを徹底解説
国内AIデータセンターが直面する投資回収と電力制約の構造的課題
今回のベンチマーク結果は、国内で進むAIインフラ投資に対して見直しの契機を与えます。これまで国内のインフラ調達は「確保可能なGPUの基数」が最優先されてきました。しかし、GPU 1基あたりの推論スループットが2年弱で倍増する環境下では、旧世代チップを大量に並べる運用の経済合理性は急激に低下します。
特に日本のデータセンター事業者が直面しているのは、特別高圧受電の新設遅延と、契約電力の上限という物理的な壁です。データセンターの受電容量が制限される状況下では、設置できるラック数に上限が生じます。限られたメガワット（MW）の電力枠の中で、いかに多くのトークンを生成できるかが事業採算性を決定づけます。
実効性能が2倍になる次世代GPUが2026年後半に投入される場合、先行して導入されたH100やH200、初期Blackwellクラスタの減価償却期間に歪みが生じます。推論APIの単価はトークン生成効率の高い新世代クラスタのコスト構造に合わせて下落するため、旧世代機の投資回収期間は当初計画よりも前倒しで圧縮されます。
また、調達面における技術選定も二極化が進みます。エヌビディアのエコシステムに依存し続ける場合、ハードウェアだけでなくTensorRT-LLMやDynamoなどの独自ソフトウェアスタックへのロックインを受け入れる必要があります。一方でAMDのInstinct MI355Xに見られるように、vLLMなどのオープンソースランタイムを用いた代替手段も実効的な処理能力を示し始めました。
国内のエンジニアリング組織にとって急務となるのは、ハードウェアの導入を待つことではありません。既存のインフラ環境において、KVキャッシュの低精度化や推論ノードの分離サービングを実装し、実効スループットを限界まで引き出すソフトウェア最適化力の確立です。同じGPU資産であっても、ランタイムのチューニング次第で20%から60%の処理能力差が生じる現実を直視しなければなりません。
参考記事: 大規模言語モデル大手がNVIDIAから集団「離反」：OpenAIやDeepSeekが自社製推論チップ（ASIC）へ…
推論インフラ調達における評価指標の再定義
MLPerf 6.1が提示したデータは、AIインフラの価値基準が「FLOPS値」から「単位電力あたりの生成トークン数」へ移行したことを裏付けています。技術責任者および投資家が今後取るべき対応は明確です。
- 調達KPIを単位電力あたりのトークン単価へ移行する
GPU単体の導入コストやカタログスペックの理論ピーク性能ではなく、受電容量1キロワットあたりで生成できる実効トークン数を基準に投資対効果を試算します。 - 既存GPUクラスタへの最新推論ランタイムの早期適用
v6.1の測定結果が示す通り、ソフトウェアの更新だけで最大1.6倍の性能向上が見込めます。KVキャッシュ量子化やPrefill/Decode分離構成の導入を優先して検証します。 - 2026年後半の世代交代を見据えた償却スケジュールの見直し
Vera Rubinの商用出荷開始に伴う推論API単価の下落を想定し、現行クラスタの回収計画を再算定します。
世代交代の速度とソフトウェア進化の双方が加速する中、事実に基づいた冷静な性能評価がインフラ戦略の成否を分けます。
出典: NVIDIA Developer Blog
出典: MLCommons Press Release
出典: Nebius Blog
