中国のAI開発企業DeepSeekは、大規模AIサービスで使用する推論フレームワーク「DeepInfer」をGitHubで公開している。高速処理やMoEのEPLBに対応し、AIの運用効率向上を後押しする狙いがうかがえる。
DeepSeekの本番推論基盤を公開、並列処理や高速化に対応
2026年10月20日に公開されたDeepInferは、DeepSeekの大規模実用サービスを支えてきた高性能な推論フレームワークだ。今回のオープンソース版には、大規模提供に必要な主要機能を備えたオフライン推論環境が含まれる。
ライセンスはApache License 2.0で、一定の条件の下で商用利用や改変、再配布が可能となる。
対応モデルは現時点で「DeepSeek-V4.1-Flash」となる。最適化済みの計算カーネル、モデル実行機構、サンプリング機構を搭載し、Attentionのデータ並列処理やMoE（※）のエキスパート並列処理などをサポートする。
負荷の偏りを調整する機能に加え、非同期スケジューリングや決定的サンプリング、構造化出力も実装している。
対応ハードウェアはNVIDIAのSM100系GPUとHuaweiのAscend 950 NPUとなる。READMEには、入力処理と出力生成それぞれの性能を測定するベンチマークが示され、前者はGPU4基、後者は64基を用いた条件が記載されている。ただし、公開情報だけで他の推論基盤に対するコスト優位性を断定することはできない。
一方、モデル内部の並列処理や負荷調整に対応するものの、完全な推論サービスを構築するには追加の機能が必要となる。KVキャッシュ管理、処理段階の分離、複数の推論レプリカ間でのリクエスト分散などは、別途用意する必要がある。
※MoE：Mixture of Expertsの略。複数の専門的なニューラルネットワークのうち、入力に応じて一部を選択して動かす方式。計算資源を効率的に使う設計として、大規模AIモデルで採用されている。
推論コスト低減に期待、導入範囲と実運用に課題も
今回の公開は、AIモデルそのものだけでなく、推論を効率化するソフトウェアの共有という点で意義がある。特に推論要求の多い企業にとっては、バッチ処理の効率化や並列実行の最適化を自社環境へ取り込めれば、計算資源あたりの処理量を増やせる可能性がある。
Apache License 2.0の採用も利点だ。企業や開発者が実装を検証し、用途に合わせて改良できるため、推論基盤の技術的な選択肢が広がるだろうまた、vLLMを基盤として開発され、SGLangやTensorRT-LLMからも着想を得ている点は、既存のオープンソース技術の蓄積が、新たな推論基盤の開発に活用されていることを示している
一方で、恩恵がすべての利用者に直結するとは限らない。対応するモデルと計算機が限られているほか、ソースコードからのビルドや周辺システムの構築が必要だ。既存環境への統合や安定運用には、専門的な開発・保守コストが発生すると考えられる。
今後の焦点は、対応環境の拡張と、実サービスに近い条件での性能検証になる。効率改善が実際のインフラ費用削減につながるかは、処理量だけでなく、機器調達費、消費電力、運用体制を含めて見極める必要がある。
関連記事:
DeepSeek-V4.1-Flash-1017公開 コーディング性能を改善、Search APIも一般公開
DeepSeek-V4.1-Flash発表 5520億パラメータのMoEを採用、KVキャッシュを大幅圧縮
