NVIDIAは、AIエージェント向けオープンモデル「Nemotron 3.5 Lightning」と、用途に応じて最適なAIモデルへ処理を振り分ける「NeMo Switchyard」を公開した。
高速な処理と、モデル選択によるコスト効率化を支援する。
高速モデルとAIルーティングライブラリを公開
2026年8月11日、NVIDIAは、AIエージェント向けオープンモデル「Nemotron 3.5 Lightning」と、モデルルーティング(※1)ライブラリ「NeMo Switchyard」を公開した。
Nemotron 3.5 Lightningは、300億パラメータのMixture-of-Experts（MoE※2）方式を採用した軽量なオープンモデルである。
マルチエージェント環境で、コードレビューやツール利用、セキュリティ監視、請求関連の問い合わせ対応など、高頻度の特定タスクを処理する用途を想定する。
NVIDIAによると、同クラスの他モデルと比べて出力速度は最大4倍となり、エージェント型タスクの完了時間を30％短縮した。
自社のデータやツール、業務フローを使って追加学習でき、RTX PCやDGX、Jetson、データセンター、クラウドなど幅広い環境で稼働可能だ。
NeMo Switchyardは、処理内容に応じてオープンモデルや独自モデル、NVIDIAモデルの中から適切なモデルへ自動で振り分ける。
NVIDIAの内部ベンチマークでは、最先端水準の精度を維持しながら、「Claude Opus 4.8」単独利用と比べて、タスク完了コストを約3分の1に抑えた。
また、企業パートナーであるLangChainの検証では、145件のマルチターン型Deep Agentsタスクで、6％の精度低下と引き換えにコストを74％削減した。
※1 モデルルーティング：入力内容や目的に応じて、複数のAIモデルの中から適したモデルを自動で選び、処理を振り分ける仕組み。
※2 Mixture-of-Experts（MoE）：複数の専門分野を持つ仕組みの中から、入力内容に応じて必要な部分だけを使って処理するAIモデルの方式。
AIエージェント運用は単一モデルから使い分け型へ
今回の発表は、AIエージェント運用が「一つの高性能モデルにすべて任せる」方式から、用途ごとに異なるモデルを使い分ける構成へ移る流れを後押しする可能性がある。
軽量モデルに定型処理を任せ、高度な推論が必要な場面だけ大型モデルを使えば、応答速度や費用を抑えながら常時稼働型のエージェントを構築しやすくなるだろう。
一方、モデルルーティングによるコスト削減では、用途によって精度とのトレードオフが生じることも考えられる。
企業が導入する際は、業務ごとに求める精度や応答速度、許容できるコストを定め、どの処理を軽量モデルに任せるかを設計することが重要になるだろう。
今後は、業務ごとのモデル選択や追加学習、ローカル実行を組み合わせたAI基盤の設計が重要性を増しそうだ。
両技術が開発ツールやクラウド環境への統合を広げれば、企業のAI運用も一律のモデル選定から、処理内容に応じて性能やコスト、実行環境を最適化する方向へ移っていくと考えられる。
関連記事：
Actualyze AI、700万ドル調達で企業向けAI管理基盤を始動 全AIリクエストを一元統制
Sakana AIが「Fugu-Ultra」v1.1発表 一部タスクでFable 5超え、Claude Codeにも対応
Microsoftが新セキュリティAI「MAI-Cyber-1-Flash」発表 脆弱性管理を高速・低コスト化
