DeepSeekは出力100万トークンあたり0.28ドルを実現した。従来モデルは巨大なGPU投資と莫大な費用を必要とした。アルゴリズムの最適化が費用対効果を中心とする新時代を開いた。
6710億パラメータ中370億駆動——DeepSeekとKimi K3が達成した計算量の構造改革
中国のAIベンダーが主導する低価格化は単なる赤字覚悟の競争ではない。技術的アーキテクチャの根本的な再設計により実現された持続可能な構造改革である。
従来の全結合（Dense）型LLMでは、推論時にすべてのパラメータを計算処理に動員していた。これに対してDeepSeekやMoonshot AI（Kimi）は、高効率なスパースMoE（Mixture of Experts）を採用している。
【従来のDenseモデルとSparse MoEモデルの計算処理比較】
[従来型 Denseモデル]
入力トークン ──> [ 全パラメータ稼働 (100%) ] ──> 出力
※ 莫大なVRAMと計算量を消費
[最新型 Sparse MoEモデル (DeepSeek-V3 / Kimi K3)]
入力トークン ──> [ルーター] ──> [選ばれた一部のエキスパートのみ活性化] ──> 出力
(例: 6710億中370億パラメータ / 約5.5%)
※ 計算量とVRAMを劇的に削減
DeepSeek-V3の総パラメータ数は6710億に達する。しかし、1トークン処理時に活性化するパラメータはわずか370億（約5.5%）に抑制されている。
Moonshot AIが発表した「Kimi K3」も同様の設計思想を持つ。2.8兆パラメータの超巨大モデルでありながら、896のエキスパートのうち動的に活性化するのは16のみである。アクティベーション率はわずか約1.8%にとどまる。
このアプローチの詳細はDeepSeek-V3/R1の技術解説やKimi K3の技術構造と実用化条件でも分析されている。
さらに、LLM推論の最大の瓶頸であったMemory-bound（メモリ帯域の壁）を克服するため、Multi-head Latent Attention（MLA）が投入された。
MLAは、推論時にVRAMを極度に圧迫するKVキャッシュを低次元の潜在空間へと圧縮する。これにより、VRAM使用量を従来比で数分の一にまで削減することに成功した。
また、学習コストそのものも劇的に圧縮されている。DeepSeekは「Group Relative Policy Optimization（GRPO）」を導入した。
GRPOは強化学習フェーズにおいて高負荷なCritic（評価）モデルを不要にする。こうした工夫により学習費用全体を約558万ドル（278.8万 H800 GPU時間）に抑え込んだ。
価格破壊の最後のパーツが、推論キャッシュ連動型のAPI課金体系である。システムプロンプトや長大な文脈を再利用する際、キャッシュ命中（Cache Hit）入力単価を100万トークンあたり0.0028ドル〜という極小値に設定した。
| 項目 | DeepSeek-V3 | Moonshot AI Kimi K3 | 従来型フロンティアモデル |
|---|---|---|---|
| 総パラメータ数 | 6710億 (671B) | 2.8兆 (2.8T) | 1.8兆〜2.0兆級 |
| 1トークン活性化数 | 370億 (約5.5%) | 16/896エキスパート (約1.8%) | 全パラメータ (100%) または高割合MoE |
| KVキャッシュ圧縮 | MLA (低次元潜在圧縮) | KDA (Kimi Delta Attention) | 標準MHA / GQA |
| 事前学習計算コスト | 約558万ドル | 非公表 (高効率設計) | 5,000万〜1億ドル規模 |
| 1Mトークン出力単価 | $0.28〜 | 段階的従量課金 | $15.00〜$60.00 |
| キャッシュ命中単価 | $0.0028〜 | 格安キャッシュ設定 | 高額または非対応 |
この極限までのコスト削減は、米Big Techの戦略にも影を落としている。MicrosoftにおけるDeepSeek採用検討の背景にある通り、大手企業もAPIコスト削減に向けた舵切りを余儀なくされている。
アーキテクチャの転換については中国AIとOpenAIのアーキテクチャ比較でも詳しく取り上げられている。
通信帯域の限界と1.4TBのVRAM壁——推論最適化が生む新たな瓶頸
Memory-bound問題の解決は、AIインフラに新たな構造的ボトルネックをもたらしている。一つ目の課題は、GPUノード間における通信帯域の限界である。
細粒度MoEでは、トークンごとに最適なエキスパートへ処理を割り分ける。この際、複数GPU間で大量の「All-to-All通信」が発生する。
インターコネクト帯域が不足すると、GPUの計算力が高くても通信待ちによる遅延が生じる。結果としてレスポンスタイム悪化を引き起こす。
二つ目の課題は、MLAによる「Compute-bound（計算帯域の壁）」への揺り戻しである。
KVキャッシュの圧縮によりメモリ容量問題は改善した。しかし、推論時に潜在ベクトルを元の表現へと復元する計算負荷が増大する。
三つ目の課題は、オンプレミス環境におけるローカルホスティングのハードルの高さである。
Kimi K3などのオープンウェイトモデルは高い柔軟性を持つ。性能比較の詳細はKimi K3と他フロンティアモデルの比較に譲るが、自社運用には膨大なリソースが必要となる。
Kimi K3のモデル重み容量だけで約594GBに達する。推論を安定実行するには、少なくとも1.4TB以上のVRAM環境を用意しなければならない。
四つ目の課題は、AIエージェントの急増に伴う「トークン爆発」と原価高騰である。
自律思考を行うAIエージェントは、バックグラウンドで大量のトークンを消費する。これらをすべて高機能な思考モデルに投入すると、運用コストが急膨張する。
思考プロセスの制御基盤についてはDeepSeek R1 Zeroの活用ガイドやDeepSeek-R1の推論時計算量スケーリングで解説したアーキテクチャ設計が不可欠となる。
プロンプトキャッシュ命中率80%超——技術責任者が追うべき3つのKPI
費用対効果を最大化するため、技術責任者が管理すべき具体的なKPIを提示する。
1. プロンプトキャッシュ命中率（Cache Hit Rate）80%以上の維持
- 共通のシステムプロンプトやRAGの検索コンテキストを構造化する。
- APIリクエストの先頭文脈を固定化し、キャッシュ命中率を80%以上に維持する。
- 入力コストを10分の1以下へ圧縮する実運用レベルの必須指標となる。
2. 定型処理（System 1）と高度思考（System 2）の振り分け率70:30
- 全リクエストを高価な思考モデル（System 2）に直接投入しない。
- ゲートキーパーとなる軽量蒸留モデル（System 1）を配置する。
- 軽微な処理の70%をSystem 1で完結させ、難度の高い30%のみをSystem 2へ動的ルーティングする。
3. トークンあたり全遅延における通信オーバーヘッド比率15%以下
- MoEを自社ホスティングまたは専用インスタンスで運用する場合に計測する。
- エキスパート間通信（All-to-All）に起因する遅延時間を、全体推論時間の15%以下に制御する。
単一モデル依存からの脱却と「推論コスト階層化」の実装
中国AI勢が主導する価格破壊は、一時のトレンドではない。アルゴリズムと推論基盤の極限最適化が生み出した不可逆な変化である。
企業が取るべきアクションは、汎用フロンティアモデルへの全依存を直ちにやめることである。
タスクの難易度に応じて適切なモデルへ割り振る「推論コスト階層化アーキテクチャ（FinOps）」を導入しなければならない。
キャッシュ利用を極限まで高めるプロンプト設計と、動的ルーティング基盤の構築こそが、次世代のAI競争力を左右する重要な要素となる。
出典: なぜ中国のAIはここまで安いのか？ “価格破壊”が世界のAI競争を変える理由｜Infoseekニュース
出典: GitHub – deepseek-ai/DeepSeek-V3
出典: Kimi K3: Open-Weight Sparse MoE Model
出典: DeepSeek API Pricing
出典: Kimi API Platform Quickstart
