米エヌビディア（NVIDIA）は2026年9月15日、次世代基盤「Vera Rubin NVL72」と推論特化型「Groq 3 LPX」を統合し、メガワット当たりのトークン処理量を最大35倍に引き上げる新戦略を公表した。特別高圧受電の契約待機が2〜5年に及ぶ国内データセンター事業者にとって、受電枠を増やさずに処理能力を拡張するシステム設計の重要性が高まっている。
AIインフラの評価軸が「GPU単体性能」から「メガワット当たりの生成効率」へ移行
米カリフォルニア州サンタクララで開催された「AI Infra Summit」において、エヌビディアはAIデータセンターの運用基準を根本から見直す方針を示した。従来の「GPUを何基調達したか」という計算資源の確保競争から、「限られた受電容量（メガワット）の中でどれだけのトークンを生成できるか」というエネルギー生産性への転換である。
この背景には、複雑な推論や自律動作を行うエージェント型AIの普及がある。OpenRouterの公表データによると、単一のエージェント処理要求は、従来の対話型チャット1回のリクエストと比較して約15倍のトークンを消費する。さらにOpenAIの公表データ（2026年6月時点）では、企業顧客におけるCodexとChatGPTの合算出力トークンのうち、64%がコーディング・エージェントによる生成で占められている。推論リクエストの爆発に伴い、データセンターの電力供給能力がAIビジネス拡張のボトルネックとして顕在化した。
エヌビディアの調査によれば、一般的なデータセンターの受電容量のうち、実際にAI演算プロセッサへ割り当てられているのは約60%にとどまる。残り約40%は冷却設備、配電損失、急激な負荷変動に備えた安全マージン（遊休電力＝Stranded Power）として消費または滞留している。
この課題に対し、エヌビディアはラック単位で余剰電力を動的配分する電力管理プラットフォーム「NVIDIA DSX MaxLPS」を発表した。DSX MaxLPSを導入することで、新規の送電網敷設を行わずに同一施設内でGPUの搭載容量を最大40%増やし、メガワット当たりのトークン処理量を最大40%引き上げる。
すでに米GPUクラウド事業者のLambdaがDSX MaxLPSを先行検証しており、同一電力枠内で電力当たり処理量を23〜24%向上させ、クラスタ全体で毎秒500万トークンのスループットを達成した。エヌビディアは2026年下半期に出荷を予定するVera Rubin NVL72をはじめ、CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure（OCI）、Nebiusの各拠点へ展開を進めている。
| 評価項目 | 従来構成（GB300 / GB200） | 次世代基盤（Vera Rubin / Groq 3 LPX） | 実務運用への影響 |
|---|---|---|---|
| MW当たりトークン処理量 | 基準値（1.0倍） | 最大30〜35倍（AgentX/超大規模モデル） | 同一受電容量で処理可能な推論ユーザー数が飛躍的に拡大 |
| 100万トークン生成コスト | 基準値（1.0倍） | 最大45分の1（AgentXベンチマーク時） | 自律型エージェントの運用採算ラインが商用水準へ到達 |
| 施設電力枠あたりのGPU増設率 | ピーク電力固定（0%） | 最大40%増（DSX MaxLPS動的配分） | 送電網増設の工事待ち期間を経ずにコンピュート密度を向上 |
| GW当たり年間収益創出 | 基準値（1.0倍） | 年間売上約39%増・利益約42%増 | ハイパースケーラーの資本効率（TCO対比処理量）が改善 |
参考記事: NVIDIA Groq 3 LPXの量産開始がもたらす推論基盤の地殻変動
SRAM直結アーキテクチャとラック規模の垂直統合がもたらす推論ブレークスルー
今回の性能向上を支える中核技術は、Groq 3 LPXによる推論特化設計と、Vera Rubin NVL72によるラック規模の統合システムである。
SRAM直結アーキテクチャによるメモリウォールの突破
大規模言語モデル（LLM）の推論処理、特にトークンを順次出力する自己回帰フェーズ（Autoregressive Decode）では、プロセッサの演算性能よりもメモリ帯域幅が性能上限を規定する「メモリウォール」が課題となってきた。広帯域メモリ（HBM）を用いても、メモリコントローラとシリコンダイ間の物理的なデータ転送によるレイテンシと発熱が制約要因となる。
Groq 3 LPXは、オンチップの大容量SRAMへモデル重みを直接配置するテンソル・ストリーミング・アーキテクチャ（TSP）を採用している。外部DRAMへのアクセスを遮断することで、低消費電力かつ決定論的（Deterministic）な超低遅延処理を可能にした。2026年8月のHot Chips 2026において、Gemma 4 31B（100Kコンテキスト）実行時に毎秒3,400出力トークンを達成したことが実証されている。
エヌビディアは2025年12月、Groqと推定約200億ドル規模の非独占的技術ライセンス供与および主要人材の移籍契約を締結した。創業者Jonathan Rossら主要エンジニアを獲得し、このSRAM直結型プロセッサ技術を自社のNVLinkネットワークスタックへ組み込むことで、2兆パラメータを超える超大規模モデルにおいてもメガワット当たり35倍という推論処理能力を実現させた。
極限の共同設計（Co-Design）によるシステム最適化
Vera Rubin NVL72は、半導体チップ単体の枠組みを超えたデータセンター全体の垂直統合設計を採用している。半導体調査会社SemiAnalysisの実測レポートによると、実環境エージェント動作ベンチマーク「AgentX（DeepSeek V4 Pro）」において、Vera Rubin NVL72はGB300比でメガワット当たり最大7倍の実測処理量を記録した。さらに、170 tokens/secondという高速応答ターゲット時には、TCO（総所有コスト）対比のスループットがGB300の最大67倍に達する。
この性能差は、以下のコンポーネント群を密結合させた「共同設計」に起因する。
- Rubin GPUおよびArmアーキテクチャベースの自社製Vera CPU
- 双方向帯域幅を拡張した第6世代NVLink（NVLink 6）
- 最大800Gb/sに対応するConnectX-9ネットワークインターフェース
- ストレージ・通信処理をオフロードするBlueField-4 DPU
- Spectrum-6イーサネットスイッチ
ラック全体を単一の計算ユニットとして機能させることで、推論実行時のプロセッサ間通信ボトルネックを抑制している。
動的電力最適化基盤「DSX MaxLPS」の実装
ハードウェアの集積度向上に伴い、電力供給の動的制御が不可欠となる。エヌビディアが導入したDSX MaxLPSは、ラック単位・ノード単位の消費電力をリアルタイムに監視し、演算負荷に応じてミリ秒単位で電力枠を再配分する技術である。
従来のデータセンターでは、各サーバーが定常的に定格ピーク電力（MaxP）を消費することを前提に配電設備が設計されていた。しかし、エージェント型AIのワークロードは推論要求の発生タイミングによって消費電力が激しく乱高下する。DSX MaxLPSは、通信待機やメモリフェッチで電力が低下したノードから余剰電力を回収し、高負荷ノードへ動的に再割り当てを行う。これにより、既存の受電設備の契約上限を超過することなく、設備利用率を極限まで高めることが可能となった。
前日に発表されたワークステーション向け「RTX PRO 5500 Blackwell Workstation Edition」も、この電力・メモリ効率化の流れを汲む製品である。RTX 5090と同じGB202ダイ（21,760基のCUDAコア）を採用しつつ、メモリ容量を84GB GDDR7へ拡張した。メモリを42GBずつ2つの独立環境に分割できるMIG（Multi-Instance GPU）に対応し、600Wの電力枠内でエージェントの検証やローカル推論を効率的に実行できる環境を提供する。
参考記事: エヌビディアのテキサス電力会社Lancium出資とは？「スターゲート」を支える電力垂直統合の仕組みと課題
国内事業者が直面する送電網の制約とインフラ戦略の再設計
米国のハイパースケーラーがMW単位からGW単位の電力確保を急ぐ一方、日本国内のデータセンター環境は固有の構造的制約を抱えている。
国内では、首都圏（印西・府中など）や関西圏（彩都など）において特別高圧（特高）電力の系統連系枠が枯渇しつつある。加えて、国内の産業向け電気料金は燃料費調整額や再エネ賦課金の影響により高止まりが続いており、電力コストはAI推論サービスの粗利率を直接圧迫する要因となっている。
こうした環境下において、エヌビディアが提示した「受電容量当たりのトークン生産効率」という指標は、日本のインフラ投資判断に直接的な示唆を与える。
調達基準の転換と既存設備の高密度化
国内のデータセンター事業者およびGPUクラウド事業者は、調達の評価指標（KPI）を「取得コスト当たりの演算性能（FLOPS/円）」から「契約電力1MW当たりの月間トークン生成能力（Tokens/MW・月）」へと刷新する必要がある。
新たに特高受電枠を確保することが困難な都市型データセンターでは、受電設備を据え置いたまま、ラックあたりの電力密度を従来の10〜15kWから40〜100kW超へと引き上げる高密度化・液冷化改修が現実的な対抗策となる。DSX MaxLPSのような動的電力制御ソフトウェアを採用することで、既存契約電力のまま実効的なGPU収容数を30〜40%底上げし、データセンターの資産回転率を向上させることが可能となる。
推論特化アーキテクチャの早期検証
AIモデルを自社運用する国内エンタープライズやSaaS企業は、汎用GPUクラスタによる推論ホスティングからの脱却を検討すべき段階にある。数十万トークンを連続消費するエージェント型ワークロードにおいて、汎用GPUのHBM帯域に依存したアーキテクチャは電力コストの肥大化を招く。
SRAM直結型の推論アクセラレータ（Groq 3 LPX等）や、エッジ・オンプレミス向けのRTX PRO 5500（84GB VRAM）を活用し、推論処理を「定常的なバッチ・事前計算」と「低遅延なリアルタイム生成」に分離して適材適所で配置するハイブリッドなシステム設計が求められる。
法規制・調達リスクへの備え
グローバルな調達戦略においては、独占禁止法（反トラスト法）をめぐる規制動向を注視する必要がある。米司法省（DOJ）は2026年9月、エヌビディアによるGroqのライセンス契約および人材獲得（約200億ドル規模）に対し、ハート・スコット・ロディノ（HSR）法に基づく通常の企業結合審査を回避する「アグリーメント型アクワイ・ハイアー」ではないかとして、正式な情報提供命令（CID）を発出して調査を開始した。
連邦議会上院議員からも大手テック企業によるAIスタートアップの囲い込みに対する懸念が表明されており、将来的な製品供給スケジュールやライセンス提供方針に影響を及ぼす可能性がある。単一ベンダーの垂直統合基盤に全面的に依存するのではなく、オープンソースの推論ランタイム（vLLM等）や代替アクセラレータとの互換性を確保しておくリスク管理が不可欠である。
参考記事: NVIDIA、ウォール街6社と提携でAIインフラに5000億ドル超投入｜「AI工場」金融資産化の仕組みと技術的インパクト
電力枠を前提とした推論ポートフォリオへの再構築
エージェント型AIの実用化に伴い、インフラの限界費用はハードウェア減価償却費から電力コストへとシフトした。国内の技術責任者および事業責任者は、以下のステップを通じてインフラ基盤の再構築を進めるべきである。
- 推論ワークロードのトークン原価算出と電力消費の可視化
自社で稼働させているAIエージェントの処理単位ごとに、消費電力量（Wh）と生成トークン数を計測する。汎用GPU上で動作するLLMの推論効率を測定し、100万トークンあたりの実効電力コストを基準値として把握する。
- データセンター受電契約とラック密度の再アセスメント
既存データセンターにおける「遊休電力（Stranded Power）」の比率を算定する。動的電力管理（DSX MaxLPS等）や液冷対応ラックの導入により、受電容量を追加せずにコンピュート容量を拡張できる余地を検証する。
- 推論特化型インフラ（Groq 3 LPX・大容量VRAMワークステーション）のPoC検証
自社のエージェント型AI（DeepSeek系、コーディング支援、社内自律エージェント等）を対象に、SRAM直結型プロセッサや84GB VRAMを備えたRTX PRO 5500環境でのレイテンシおよびスループットを検証し、汎用クラスタからのオフロード計画を策定する。
メガワット当たりの生産効率を最大化するインフラ設計が、今後のAIサービスにおける営業利益率を左右する決定的な要因となる。
出典: BigGo Finance
出典: Groq Press Release
出典: NVIDIA Developer Blog (DSX MaxLPS)
出典: SemiAnalysis
出典: NVIDIA Newsroom (AI Infra Summit)
出典: Tom’s Hardware
出典: Seeking Alpha
