2026年3月11日、米NVIDIAはAIエージェント構築向け大規模言語モデル「Nemotron 3 Super」を発表した。
オープンソースとして公開され、推論速度を最大5倍に高める設計が採用されている。
推論効率を高めた新LLM登場
NVIDIAが発表した「Nemotron 3 Super」は、複数のAIエージェントが連携して処理を行うマルチエージェントシステムを前提に設計された大規模言語モデルである。
総パラメータ数は1200億に達するが、推論時に実際に動作するのは120億に抑えられており、計算効率を大幅に高めている。
この効率化を支えるのが、状態空間モデルであるMamba層とTransformer層を組み合わせたハイブリッド構造に加え、「Latent MoE（※）」と呼ばれる新しいアーキテクチャだ。
トークンを低次元の潜在表現に圧縮して処理することで、従来モデルと比較して推論スループットを最大5倍まで向上させた。
また、最大100万トークンの長文コンテキストに対応し、長時間の対話履歴や複雑な指示、ツール実行結果を統合的に扱える設計となっている。
開発はBlackwell世代GPUを前提に進められ、NVFP4精度で25兆トークンを用いた学習が実施された。
※Latent MoE：入力データを低次元の潜在空間に圧縮した上で複数の専門モデルを選択的に活用する仕組み。計算負荷を抑えつつ性能を維持する点が特徴。
エージェントAI普及を加速するがコスト構造は変化
Nemotron 3 Superの登場により、エージェントAIの実用化は一段と進むと考えられる。
推論効率の向上は、複数エージェントが同時に動作する環境でのコスト削減につながり、リアルタイム対話や業務自動化の導入ハードルを下げる要因となるだろう。
特に、オープンモデルとして提供される点は企業にとって大きいと言える。
自社インフラ上でデータを保持したままカスタマイズできるため、ソブリンAIや機密データを扱う領域での採用が進む余地がある。
クラウド依存を抑えたAI戦略を志向する企業にとって、有力な選択肢の一つになりそうだ。
一方で、高効率化が進むことで競争軸は単純なモデル性能から運用最適化へ移行する可能性もある。
複雑なアーキテクチャの管理やチューニングには高度な技術力が求められ、導入企業側のエンジニアリング負荷が増す側面も否定できない。
今後は、推論コストの低減と開発難易度のバランスをどう取るかが重要になるだろう。
エージェントAIが本格的に業務基盤へ組み込まれるかどうかは、この技術的ハードルをどこまで抽象化できるかに左右される局面に入ったといえる。
関連記事：
NVIDIA、オープンモデル「Nemotron 3」発表 Nano・Super・Ultraの3モデル展開
