2026年8月20日、米Liquid AIが自社の「LFM2.5」シリーズ向け投機的デコーディングモデル「DSpark」を無償公開した。出力品質を保ったまま、推論速度を最大3.2倍向上させることが可能だ。
DSparkが克服するメモリ依存 LFM2.5の高速化メカニズム
大規模言語モデル（LLM）の推論処理において、デコード段階は計算量よりもデータ読み込み速度に依存する傾向が強い。これはNVIDIA H100などの高性能GPUからMacBookまで同様の課題であった。
今回公開された「DSpark」は、軽量なドラフトモデルで候補トークンを事前に生成し、ターゲットモデルが一度に一括検証する投機的デコーディング手法を採用している。これにより、モデル重みの読み込み負担を分散させて処理速度を飛躍的に向上させている。
対象は「LFM2.5-1.2B-Instruct」「LFM2.5-2.6B」「LFM2.5-8B-A1B」の3モデルで、各種チェックポイントがHugging Faceにて無償配布されている。さらにllama.cppやSGLangなどの推論環境にも初日から対応を果たした。
性能測定では、H100環境で平均2.5倍以上、M4 Max搭載MacBook Proでも高い加速効果が確認されている。出力結果はベースモデルと完全に一致するため、精度を下げることなく応答の即時性のみを高めることに成功した。
※投機的デコーディング：軽量な予測モデル（ドラフトモデル）を用いて出力候補を素早く予測し、親モデルで一括検証することで生成処理全体を高速化するアルゴリズム。
オンデバイスAIの実行環境を革新 開発効率と応用範囲が拡大
本技術の展開は、AIアプリケーション開発者やビジネス現場へ非常に大きな利点をもたらす可能性がある。とりわけエッジデバイス上での応答性の劇的な改善は、ユーザー体験の向上に直接つながると考えられる。
生成スピードの向上により、従来はクラウド依存だった複雑なAI処理をローカル環境で円滑に稼働させられるようになるだろう。特にエージェント型処理のようにツール実行前に思考を挟むワークフローでは、待機時間の大幅な削減が見込まれ、業務の効率化に貢献するはずだ。
一方で、モデルの内部構造に応じて高速化の恩恵に差が生じる点には留意したい。Mixture of Experts（MoE）構造を持つ8Bモデルにおけるエッジ環境での改善幅のように、ハードウェアやアーキテクチャに依拠した課題も指摘されている。
今後は各種バックエンドの最適化が進むにつれ、これらの制約も解消に向かうと予測される。オープンウェイトで提供される本モデルは、プライバシーや低遅延を重視するオンデバイスAIの活用を強固に後押しすると期待できる。
関連記事：
