重要ポイント
- Microsoftが2026年10月15日、新しい基盤モデル「MAI-Base-2」の事前学習完了を発表
- 総パラメータ数は2.8兆、推論時に働くアクティブパラメータは800億のMoE(混合専門家)モデル
- 2026年8月から9月にかけて、GB200 GPU1万6000基を使い38日間学習
- 保留評価でテストした全オープンウェイトモデルを上回り、DeepSeek-V4-Pro-Baseに対して4.2〜12.3倍のFLOPs(計算量)効率を達成したと説明
- 現在は事後学習(ポストトレーニング)の段階で、一般提供の時期や公開形式は未定
概要
2026年10月15日、MicrosoftはAI開発者向けブログで、自社開発の基盤モデル「MAI-Base-2」の事前学習が完了したと発表しました。前モデル「MAI-Base-1」の後継にあたり、合成データからの蒸留に頼らず、独自に収集・処理した「organic data」を使って学習したとしています。事前学習の段階から画像データを含むマルチモーダルモデルとして構築されている点も特徴です。Microsoftは、他モデルからの蒸留ではなく、データ・モデル・学習インフラのすべてを自社で保有している点を強みとして挙げています。
詳細
学習の規模とデータ
MAI-Base-2は、総パラメータ数2.8兆、アクティブパラメータ800億のMoE(Mixture of Experts)構造の基盤モデルです。前世代のMAI-Base-1(総パラメータ1兆、アクティブパラメータ350億)と比べて規模が拡大しています。学習データは、一意なトークン数でMAI-Base-1から約36%増加した50兆トークンで、このうち画像や文書を含むビジョン関連のデータが約4.5兆トークン(全体の18%)を占めます。Webデータの知識カットオフは2026年3月です。学習には2026年8月から9月にかけて、GB200 GPU1万6000基を使い、38日間を費やしました。学習時の平均MFU(モデルFLOPs利用率)は21%、goodput(有効稼働率)は89%だったとしています。
性能評価
Microsoftによると、MAI-Base-2は保留評価(held-out evaluation)において、比較対象としたDeepSeek-V4-Pro-Base、Kimi K3、Qwen3.8-2.4T-A95B、MiMo-V2.6-Pro-RLを含む、テストした全てのオープンウェイトモデルを上回ったとしています。特に、同程度の性能を持つDeepSeek-V4-Pro-Baseと比べて、4.2〜12.3倍のFLOPs効率を達成したと説明しています(発表の冒頭では「4〜12倍」という表現も使われており、数値にはやや幅があります)。Microsoftは、データの品質分類や重複除去などの学習パイプラインを改善したことが、性能向上につながったとしています。
今後の提供予定
MAI-Base-2は、発表時点ではまだ事前学習が完了した段階で、現在は事後学習(ポストトレーニング)を進めているとしています。一般提供の時期や、オープンウェイトとして公開するかどうかは明らかにされていません。Microsoftは、信頼できるパートナーに対してFoundry経由でモデルの重みをライセンス提供する計画があるとしており、近いうちに追加の性能結果を共有するとしています。また、次世代モデル「MAI-Base-3」の準備にも既に着手しているとのことです。
出典
- Frontier Pre-training at Microsoft AI(Microsoft AI、2026年10月15日)
