米グーグルは、AIを悪用したサイバー攻撃の実態を報告した。自律型攻撃ツールの利用に加え、盗んだ認証情報を通じてAIの利用権を不正に取得し、販売する動きも確認された。
AIによる攻撃の自動化が進展
2026年11月17日、グーグルの脅威インテリジェンス部門(GTIG)は、AIを悪用したサイバー攻撃の最新の調査結果を公表した。
調査によって、サイバー犯罪者が大規模言語モデル(LLM)を活用し、攻撃活動の効率化や大規模化を進めていることが明らかになった。
金銭目的の攻撃活動では、自律型AIフレームワークの利用が確認されたほか、盗んだ認証情報を用いてAIを稼働させる「LLMJacking(※)」が拡大している。
2026年に確認されたLLMJackingの事例では、攻撃者が企業のクラウド環境に侵入し、LLMの利用枠や計算資源を不正に消費していた。
1日当たりの不正利用額が10万ドルを超えるケースもあり、最も深刻な事例では対処が完了するまでに累計100万ドルに達した。
また、不正取得したAIへのアクセス権を販売する違法サービスも登場している。犯罪グループが認証情報の調達やインフラの管理を分担するなど、組織的な収益化の仕組みが形成されているという。
こうした脅威に対し、グーグルは関連アカウントの無効化やAIモデルの安全対策を強化している。さらに、自動修復機能や脅威インテリジェンスを統合した企業向けの自律型セキュリティ基盤も開発した。
※LLMJacking:窃取した認証情報などを悪用し、第三者が契約する大規模言語モデルやクラウドの計算資源を無断で利用する攻撃手法。被害を受けた企業には、多額の利用料金が発生する恐れがある。
AIによる攻撃と防御の自動化 企業側の対策が重要に
AIによる攻撃の自動化が進めば、サイバー犯罪者は従来よりも少ない人的資源で、多数の標的に攻撃を仕掛けられるようになるだろう。
とりわけ、専門的な技術を持たない攻撃者でもAIを通じて高度な攻撃を実行できるようになれば、企業が直面する脅威の裾野は広がると考えられる。
また、LLMJackingの拡大は、サイバー攻撃が情報資産だけでなく、企業の財務にも直接的な損害をもたらしうることを示している。
従量課金型のAIサービスを利用する企業にとっては、短時間で多額の費用が発生するという財務上のリスクも無視できなくなる。
一方、AIは防御側にとっても有効な手段となりうる。脆弱性の検出から修復までを自動化できれば、セキュリティ担当者の負担軽減や攻撃への対応時間の短縮が期待できる。
ただし、AIの誤判断や不正確な情報生成は、攻撃と防御の双方に共通する課題である。防御の自動化においても、人間による監督や判断の妥当性を検証する仕組みが不可欠になるだろう。
今後、企業には認証情報の厳格な管理や異常なAPI利用の監視に加え、AIを活用した攻撃に迅速に対応できるセキュリティ体制の構築が求められそうだ。
関連記事:
GMO、日本企業への不正アクセスにAI侵入テストツール「ARTEX」の使用を確認 約20社が標的

GTIG、攻撃者のAI悪用が進化 自律型攻撃で防御が困難に

GoogleがAIで企業防衛を自動化 脆弱性対応を数分単位に短縮へ
