Qualcomm Technologiesは、次世代プレミアムモバイル向けの新しい「Qualcomm Hexagon NPU」の概要を公表した。エージェント型AIを端末上で高速かつ省電力に動かすため、専用演算器と大容量共有メモリを強化する。
専用演算器と共有メモリを強化、端末AIを高速化
2026年9月10日に発表された新しいHexagon NPUは、生成AIやエージェント型AIで中心となるTransformer処理に特化した「Element Accelerator」を新たに搭載する。スカラー、ベクトル、行列演算の各拡張機能と組み合わせ、長い文脈の処理や複数タスクの並行実行、継続的な推論を効率化する設計だ。
共有メモリも従来比で50％拡大する。モデル状態や中間テンソルなど、頻繁に参照するデータをNPU近くへ保持することで、外部DDRメモリへのアクセスを減らし、待ち時間やメモリ帯域のボトルネックを抑える狙いがある。
さらに、INT2、INT4、INT8、FP8、FP16まで幅広い精度形式をサポートする。INT4モデルでは入力処理にあたるプリフィル性能が最大50％向上し、デコード速度や投機的デコード、1秒当たりのトークン生成性能も高めるとしている。
加えて、Mixture-of-Experts（MoE）（※）にも対応する。300億パラメータ規模のMoEモデルでも、1トークンの生成時に約30億のパラメータのみを選択的に動かすことで、計算量とメモリ帯域を抑えながら大規模モデル級の体験を端末上で実現する構想だ。
※Mixture-of-Experts（MoE）：複数の専門ネットワークを用意し、入力内容に応じて必要な一部だけを動作させるAI構成。全パラメータを毎回使う方式より計算量やメモリ消費を抑えやすい。
オンデバイスAI拡大へ、性能と運用設計が焦点
今回の設計は、スマートフォン上でも大規模なAIモデルを効率よく動かし、生成AIやエージェント型AIの処理範囲を広げる狙いを示している。処理の多くを端末内で完結できれば、応答遅延を抑えやすく、外部サービスへ常時データを送らずに済む場面も増えるため、プライバシー面でも利点が見込める。
一方、エージェント型AIは複数アプリやツールをまたぎ、長い文脈を維持しながら判断と実行を繰り返す。NPU単体の演算性能だけでなく、CPUによる処理の振り分けやデータ供給、GPUを含む他の演算器との連携まで含めたシステム設計が重要になる。
また、MoEや低精度演算は計算効率を高める一方、モデル品質とのバランスや、どの処理を端末内で担わせるかという設計判断も必要だ。端末の電力、メモリ、発熱には制約があるため、クラウドAIを完全に置き換えるというより、軽量処理をローカルへ寄せ、必要に応じて大規模モデルを使う役割分担が現実的と考えられる。
今後は、次世代プレミアムモバイル基盤への搭載を通じ、エージェント型AIがどこまで常時稼働しながら低遅延と省電力を両立できるかが焦点になる。端末AIの競争軸は、ピーク性能だけでなく、メモリ配置やモデル選択、演算器間の連携を含む総合アーキテクチャへ広がりそうだ。
Qualcomm 「Why agentic AI needs a completely different mobile architecture: the Qualcomm Hexagon NPU」
関連記事:
Qualcommの日本ロボティクス投資とは？日本のエンジニアへの影響と技術的変化を解説
クアルコムが日本でフィジカルAIロボ研究拠点を新設 トヨタやKDDIらも参画
