2026年8月18日、日本の大規模言語モデル研究開発センター(LLMC)は、約332億パラメータのDense型LLM「LLM-jp-4 33B」を公開した。国内で進むオープンな日本語特化型モデル開発の最新成果となる。
約332億パラメータのDense型モデル2種とDPOデータを同時公開
大規模言語モデル研究開発センター(LLMC)は、オープンかつ日本語能力に優れた大規模言語モデルの開発に取り組んでおり、2026年4月に「LLM-jp-4 8B」およびMoE型の「LLM-jp-4 32B-A3B」を公開した。
今回、新たに約332億パラメータのDense型モデル「LLM-jp-4 33B」として、2種類のモデルをラインナップに追加した。提供されるのは、中間学習までを完了したベースモデル「llm-jp-4-33b-base」と、教師ありファインチューニング(SFT)および直接選好最適化(DPO)を施した事後学習済みモデル「llm-jp-4-33b-thinking」である。
独自の評価フレームワーク「llm-jp-judge」を用いた検証では、事後学習済みモデルが「日本語MT-Bench」「英語MT-Bench」「AnswerCarefully」「llm-jp-instructions」の全4種において、過去のすべてのLLM-jp-4 Thinkingモデルを凌駕する性能を実証した。
さらに、今回のモデル公開に合わせ、「llm-jp-4-33b-thinking」のDPOプロセスで用いられたデータセットもあわせて一般公開された。研究開発に必要なリソースを包括的に提供する取り組みと言える。
オープン化がもたらす利点と運用課題 国産AIが描く未来の展望
研究開発段階から事後学習済みモデル、最適化用データセットまでが一括して提供された意義は極めて大きいと言える。国内の企業や研究者は自社サーバー内で高精度な日本語AIを構築しやすくなり、高度なセキュリティが要求されるビジネス領域での実用化が一段と加速する見通しだ。特にDPOデータの公開により、対話嗜好に合わせた独自カスタマイズのハードルが下がった点は、外部クラウド依存を避けたい組織にとって魅力的な選択肢となるだろう。
一方で、約332億パラメータというモデル規模は、導入や運用におけるハードウェアコスト増を招く側面も持ち合わせている。より軽量な8BモデルやMoE型モデルと比較し、推論処理にかかるインフラ費用や計算資源の最適化が導入時の検討課題になると予想される。
今後は、モデルの精度向上と運用コスト削減の両立が実業務への定着を左右する要素となるはずだ。オープンな開発基盤を活用した応用事例が国内産業の現場でどれほど広がるか、その動向に注目したい。
関連記事: