Skip to content

techshift

  • 日次・週次まとめ
  • マルチエージェント
  • 耐量子暗号 (PQC)
  • 全固体電池
  • 自動運転
  • 政策動向
  • 技術用語辞典
Home > 基盤モデル (LLM/SLM)> Microsoftが2.8兆MoEモデル公開|国内企業のAI調達指針
基盤モデル (LLM/SLM) 2026年10月16日
Dense混合の高アクティブ計算 -> 2.9%低アクティブ全層MoEによる極限計算効率化 Impact: 82 (Accelerated)

Microsoftが2.8兆MoEモデル公開|国内企業のAI調達指針

Microsoftが2.8兆MoEモデル公開|国内企業のAI調達指針

マイクロソフト(Microsoft)は2026年10月15日、総パラメータ2.8兆、アクティブパラメータ800億の混合エキスパート(MoE)基盤モデル「MAI-Base-2」を発表しました。このモデルは知的財産リスクを排除した50兆トークンで事前学習されており、2026年以降の生成AI調達基準を再検討する日本のエンタープライズ企業にとって、モデル選定指針を根本から変える指標となります。

50兆トークンを38日で完走した「MAI-Base-2」の事前学習規模

マイクロソフト(Microsoft)のAI開発部門であるマイクロソフトAI(Microsoft AI)は、最高経営責任者(CEO)のムスタファ・スレイマン(Mustafa Suleyman)氏の主導のもと、事前学習済みモデル「MAI-Base-2」を公開しました。

事前学習は、エヌビディア(NVIDIA)の「GB200 NVL72」を16,000基投入した大規模クラスタ上で実行されました。2026年8月から9月にかけての38日間で完了し、総コンピュート時間は約1,460万GPU時間に達しています。平均MFU(Model FLOPs Utilization: モデル浮動小数点利用率)は21%、goodput(障害による停止を除き実際に学習が進んだ稼働率)は89%を記録しました。

同社は自社開発のAIアクセラレータ「Maia 300」の量産を2027年に計画していますが、本作はすべてエヌビディア製ハードウェア上で完結しています。

フロンティアオープンウェイトモデルとの仕様比較

MAI-Base-2の設計思想は、モデルの巨大化と推論時の計算コスト抑制を両立させる「低アクティブ率のMoE」にあります。競合する主要モデルとのパラメータ構成の比較は以下の通りです。

モデル名 総パラメータ数 アクティブパラメータ数 アクティブ比率 事前学習トークン数
MAI-Base-2 2.8兆 800億 2.9% 50兆
Kimi K3 2.8兆 1,040億 3.7% 非公開
Qwen3.8 2.4兆 950億 4.0% 非公開
DeepSeek-V4-Pro-Base 1.6兆 490億 3.1% 32兆超
MAI-Base-1 1.0兆 350億 3.5% 30兆

MAI-Base-2は、中国ムーンショットAI(Moonshot AI)の「Kimi K3」と同じ総パラメータ2.8兆クラスでありながら、1トークン生成時に稼働するパラメータを800億(全体の2.9%)に抑え込んでいます。トークンを振り分けるルーターは、512個のエキスパートから7個を選択し、常時稼働する共有エキスパート1個を加えた計8個で処理を実行します。

bits per byte(BPB)による計算効率の測定結果

マイクロソフトAIは、モデルの予測性能を測る客観的指標としてbits per byte(BPB)を採用しました。BPBは未見テキストの1バイトを予測するために要するビット数を示し、数値が低いほど高精度となります。トークナイザーの語彙設計に左右されない生テキスト評価手法です。

マイクロソフトの社内評価によると、中国ディープシーク(DeepSeek)の「DeepSeek-V4-Pro-Base」と同等のBPBに到達するために必要な浮動小数点演算回数(FLOPs)は、推定で4.2倍から12.3倍削減されました。前世代モデル「MAI-Base-1」との比較では、6.3倍から12.7倍のFLOPs効率改善が確認されています。

参考記事: MicrosoftがClaude Sonnet 4.6と同等性能な「MAI-Thinking-1」や音声クローンモデルを発表

効率化を支えるMuonオプティマイザと全層MoEアーキテクチャ

MAI-Base-2の計算効率改善は、単なるハードウェアの力押しではなく、3つの構造的刷新によって実現されました。

新オプティマイザ「Muon」の全域適用

第1の技術的要因は、最適化アルゴリズム「Muon」の本格採用です。埋め込み層を除く重み行列の更新において、従来のAdamWをMuonに置き換えました。

Muonは直交制約を取り入れた更新ステップを持ち、各イテレーションの実行時間を2.1%(約165ミリ秒)消費するオーバーヘッドを伴います。しかし、重み更新の幾何学的軌道が安定化するため、ステップあたりの損失関数の減少幅が大幅に向上しました。これにより学習発散のリスクが抑制され、50兆トークンという極限領域での安定した収束が可能になりました。

全層MoE化とドロップレストークンルーティング

第2の要因は、全層をMoE構成へ移行させた点です。MAI-Base-1では計算の安定性を優先し、高密度(Dense)層とMoE層を交互に配置していました。MAI-Base-2では全102層すべてをMoE化しています。

従来のMoEでは、特定エキスパートへの負荷集中時にトークンを破棄する「トークンドロップ」が発生し、表現力の損失を招いていました。MAI-Base-2は複数ラウンド処理を行う「droplessルーティング」を導入し、過負荷時にもトークンを欠損させずに処理を完結させます。この最適化により、MoE層単体のMFUは24%から35%へと大きく跳ね上がりました。

アクティベーション勾配クリッピングとソーススケーリング

第3の要因は、重みではなくアクティベーション(中間層の活性化状態)に対する勾配クリッピングの適用です。バッチ内に混入した特異な入力データによってバッチ全体の学習係数が過度に縮小される現象を防ぎます。

また、モデルのスケールアップ指針として「ソーススケーリング」を導入しました。小型モデルでの実験段階においてユニークサンプル数を意図的に制限し、小規模では有効に見えても大規模化で破綻するハイパーパラメータの組み合わせを事前に排除する仕組みです。

【MAI-Base-2の学習アーキテクチャ構成】
・入力トークン(テキスト+視覚ネイティブ、計50兆トークン)
  ↓
・全102層の完全MoE構造(Dense層の完全排除)
  ↓ 各層のルーターが512エキスパートから7つを選択 + 共有エキスパート1つ
・droplessルーティング(トークンの破棄なし、MFU 35%)
  ↓
・最適化基盤:Muonオプティマイザ(内部重み)+ アクティベーション勾配クリッピング

参考記事: GPUクラスタの仕組みと構築戦略|CTOが押さえるべき最前線と2030年の未来

データトレーサビリティの確保とクローズドライセンスの意図

MAI-Base-2の設計において、技術アーキテクチャと同等に重視されたのが学習データの出どころ(出自)です。

蒸留の完全排除とrobots.txtの遵守

マイクロソフトAIは、オープンモデルからの回答を学習させる「モデル蒸留」を一切排除しました。50兆トークンのすべてを自社パイプラインで一次処理しています。知識のカットオフは2026年3月です。

コーパスの内訳は、ソースコードが45%、視覚データが18%(4.5兆トークン相当)を占めています。視覚データは独立したエンコーダモジュールを用いず、トランスフォーマー層をテキストと共有するネイティブマルチモーダル仕様です。

クローリングにおいては、Webサイトのrobots.txtやアクセス制限メタタグを厳格に適用しました。さらに米国通商代表部(USTR)が指定する「悪質市場リスト(Notorious Markets List)」に掲載された著作権侵害疑義ドメインをクローラ側で自動除外しています。

Microsoft Foundryを通じた限定ライセンス供与

マイクロソフトは2026年7月、メタ(Meta)やエヌビディアらとともにオープンウェイトモデルの推進を掲げる公開書簡「Open Weights and American AI Leadership」に署名しました。しかし、MAI-Base-2のウェイトは一般公開されません。

本モデルは、企業向けプラットフォーム「Microsoft Foundry」を通じて「信頼できるパートナー」に対してのみ商用ライセンス供与されます。

事後学習前のウェイトであっても、8ビット量子化で約2.8テラバイト、16ビット浮動小数点で5.6テラバイトのメモリを要求します。一般的なローカル環境での稼働は不可能であり、大規模クラウドインフラを前提とする法人顧客への直接販売に販路が絞られています。

参考記事: MAI-Cyber-1-Flashの仕組みと実用化|GPT-5.4連携で実現するAI自律防衛とコスト50%削減

日本企業が直面する知財リスクと基盤モデル選定基準の変容

MAI-Base-2が提示した学習データの透明性とMoEアーキテクチャは、日本の産業界における生成AIインフラ戦略に直接的な課題を突きつけています。

著作権法第30条の4と海外市場における訴訟耐性のギャップ

日本の著作権法第30条の4は、情報解析を目的とする著作物の利用を幅広く容認しており、国内における学習データ収集のハードルは国際的に低く設定されています。しかし、日本企業が生成したプロダクトやAIサービスを北米や欧州へ展開する場合、現地の厳正な知的財産権基準およびフェアユース法理に直面します。

ディープシークなどの低価格なオープンウェイトモデルは高い性能を示しますが、学習データの具体的な出自やライセンス処理の追跡性は開示されていません。

MAI-Base-2のように、robots.txt遵守やUSTRリスト除外を明示し、一次ソースの追跡可能性を保証した商用ライセンスモデルが登場したことで、法務・コンプライアンス部門における基盤モデル調達の合格基準は大幅に引き上げられます。知的財産の真正性が証明できないモデルを採用したサービスは、グローバル市場での係争リスクを抱え続けることになります。

自社プライベートクラスタの投資回収可能性の再試算

国内のSIerや通信事業者は、大規模なGPUクラスタを構築し、日本語特化型モデルの事前学習を進めてきました。しかし、MAI-Base-2は16,000基のGB200をフル稼働させ、わずか38日間で2.8兆パラメータのモデルを学習し終えています。

総パラメータに対するアクティブ比率を2.9%に抑える全層MoE技術やMuonオプティマイザの導入には、高度な並列分散分散学習のノウハウが必要です。単一の高密度(Dense)モデルを学習し続ける従来型のアプローチでは、FLOPs効率で4倍から12倍の差を付けられる計算になります。

自前で事前学習を行う経済的合理性は急速に薄れており、クリーンな基盤モデルのライセンス供与を受け、事後学習(Post-training)やドメイン特化型推論(Reasoning)のチューニングに計算資源を集中させるモデルへと投資の転換が求められます。

参考記事: Instella-MoEの仕組みと技術的特異点|脱CUDAを実現するAMDのAI推論インフラ戦略

今後技術責任者が取るべきモデルポートフォリオの再編

MAI-Base-2は現在事後学習フェーズに入っており、具体的な推論ベンチマークやコーディングタスクの数値は公開されていません。しかし、事前学習のアーキテクチャが開示されたことで、企業がとるべき次の一手は明確になっています。

  1. 基盤モデル調達基準に「データトレーサビリティ」を明文化する

社内利用および外販サービスに組み込む基盤モデルについて、学習データパイプラインの除外基準(robots.txt尊重の有無、海賊版ドメインの排除実績など)をベンダー選定の必須要件に設定してください。

  1. 事後学習特化型へのクラスタ運用見直し

GPU計算資源の投資先を「ゼロからの事前学習」から、高効率MoE基盤モデルに対するドメイン適応、RLHF(人間のフィードバックによる強化学習)、Reasoningモデル構築のための事後学習クラスタへと再配分してください。

  1. アクティブパラメータ効率を基準とした推論インフラの再設計

推論時のメモリ帯域とコンピュート負荷を分離して評価する体制を整えてください。総パラメータによる知識容量の確保と、低アクティブパラメータによるレイテンシ削減を両立させるMoE前提のサービング環境を構築することが、今後のインフラコスト最適化における分岐点となります。

出典: Pasquale Pillitteri
出典: Microsoft AI
出典: StreetInsider

Share this article:

関連記事

● 基盤モデル (LLM/SLM) 2026.11.13

DeepSeekが158億ドル調達|日本の車載AI開発に与える影響

中国DeepSeekは2026年6月に続き158億ドルの巨額調達を実施し、テンセントや車載電池大手のCATLが参加しました。評価額は約740億ドル、ARRは10億ドルに達しています。ファーウェイの昇騰チップ向け独自ツールにより非CUDA環境を構築し、車載バッテリーマネジメントシステムへの推論統合を進めています。

DeepSeekが158億ドル調達|日本の車載AI開発に与える影響
Phase Shift (Before → After) クラウド型LLM・米国GPU依存から、車載エッジと電池制御に垂直統合された非CUDA物理AIへ
Impact +35
Delayed Neutral Accelerated
Read Analysis →
● 自動運転 2026.11.13

国土交通省がL4自動運転で事故1件即リコール検討、後付け装置も対象へ

国土交通省はレベル4自動運転車を対象に、「事故1件」でもリコール 国交省が検討する行政処分枠組みの導入に入った。同一制御ソフトウェアがフリート全体に及ぼす決定論的バグのリスクを考慮し、後付け自動運行装置の開発企業への責任拡大や即時報告を義務化する。2027年度の全国100か所実装に向け検査制度を見直す。

国土交通省がL4自動運転で事故1件即リコール検討、後付け装置も対象へ
Phase Shift (Before → After) 複数事故蓄積後のハード中心リコール -> 事故1件で即時発動するフリート全体OTAリコール
Impact +15
Delayed Neutral Accelerated
Read Analysis →
● 量子センシング 2026.11.13

Q-CTRLが2.9億ドル調達しDO-160適合|国内無人機の航法選定

豪Q-CTRLは量子航法システム「Ironstone Opal」でRTCA DO-160耐空性認証を取得した。-55℃から+70℃の熱サイクル試験をクリアし、ITARフリー設計で民間・防衛向け供給体制を構築。2026年11月には2億9,000万ドルの資金調達を発表し、自衛隊機や無人機の非GPS航法仕様策定に直結する。

Q-CTRLが2.9億ドル調達しDO-160適合|国内無人機の航法選定
Phase Shift (Before → After) GNSS依存の脆弱な航法 -> DO-160適合のスタンドアローン量子地磁気航法
Impact +32
Delayed Neutral Accelerated
Read Analysis →

最近の投稿

  • DeepSeekが158億ドル調達|日本の車載AI開発に与える影響
  • 国土交通省がL4自動運転で事故1件即リコール検討、後付け装置も対象へ
  • Q-CTRLが2.9億ドル調達しDO-160適合|国内無人機の航法選定
  • Ethlabsが耐量子移行を2027年へ前倒し|国内交換業の鍵管理改修
  • 国立清華大学が臨界指数0.74を実証|国内超伝導材料設計への示唆

最近のコメント

表示できるコメントはありません。

アーカイブ

  • 2026年11月
  • 2026年10月
  • 2026年9月
  • 2026年8月
  • 2026年7月
  • 2026年6月
  • 2026年4月
  • 2026年3月
  • 2026年2月
  • 2026年1月

カテゴリー

  • AIネイティブ開発 (No-Code)
  • AI創薬
  • オンデバイス・エッジAI
  • ゲノム編集・遺伝子治療
  • デジタル・プロヴェナンス
  • ヒューマノイドロボット
  • マルチエージェント自律システム
  • ラストワンマイル配送ロボ
  • ロボ・移動
  • 全固体電池・次世代蓄電
  • 再使用型ロケット
  • 基盤モデル (LLM/SLM)
  • 宇宙・航空
  • 小型モジュール炉 (SMR)
  • 日次・週次まとめ
  • 未分類
  • 核融合発電
  • 次世代知能
  • 水素・次世代燃料
  • 環境・エネルギー
  • 直接空気回収 (DAC)
  • 耐量子暗号 (PQC)
  • 自動運転
  • 量子ゲート型コンピュータ
  • 量子センシング
  • 量子技術
  • 量子通信・インターネット

TechShift

未来を実装する実務者のためのテクノロジー・ロードマップ。AI、量子技術、宇宙開発などの最先端分野における技術革新と、それが社会に与えるインパクトを可視化します。

Navigation

  • 日次・週次まとめ
  • マルチエージェント
  • 耐量子暗号 (PQC)
  • 全固体電池
  • 自動運転
  • 技術用語辞典

Information

  • About Us
  • Contact
  • Privacy Policy
  • Logishift

© 2026 TechShift. All rights reserved.