マイクロソフト、自社の生成AIで有害コンテンツ作成したハッカーを特定

2025年2月28日の報道によると、米マイクロソフトは、生成AIツールを利用し有害コンテンツを作成したハッカーを特定したと発表した。同社は米国と海外の法執行機関に刑事告発をする準備をしているようだ。

生成AIの悪用とグローバルな犯罪ネットワーク「Storm-2139」の実態

マイクロソフトは、生成AIツールを用いて有名人のプライベート画像を無断で作成するなどの悪質な行為に関与したハッカーを特定した。

犯人は、同社が名付けた国際的なサイバー犯罪集団「Storm-2139」の構成員だという。イラン、英国、香港、ベトナムを拠点とし、今回の犯人のほかにフロリダ州やイリノイ州にいる2名を特定しているそうだ。

彼らは、マイクロソフトの「Azure」サービスを含む生成AI技術を巧妙に活用し、不適切なコンテンツ作成を防ぐ対策を回避して、有害なコンテンツを生成し、公開ソースから得たログイン情報を基にアクセスした。
さらに、生成AI製品の情報を変更し、アクセス手段をハッカー集団に販売、有害コンテンツの作成方法を伝えたという。

法的措置の進展と今後の安全対策の方向性

本件に対する法的措置は、マイクロソフトが既に米国、海外の法執行機関に刑事告発する予定とのことである。
マイクロソフトのデジタル犯罪対策部門（ＤＣＵ）の法務顧問補佐スティーブン・マサダ氏は27日のブログ投稿で、「マイクロソフトは、強固なAI安全対策を当社のプラットフォームに組み込むことでユーザーを守り、当社のサービスを違法で有害なコンテンツから保護することに引き続きコミットしていく」と表明した。

生成AIの技術革新は、革新的なコンテンツ生成や業務効率化を促進する可能性があると同時に、生成AIの利便性が悪用されるリスクも否めない。プライバシー侵害やフェイクコンテンツの流布といった倫理的・社会的な課題が浮き彫りになる。
今回マイクロソフトは、技術の悪用に対する迅速な対処を行ったが、技術の急速な普及に伴い、規制の整備や国際協力の枠組みが追いつかない懸念があると考えられる。

今後は、生成AIの技術革新に対して企業と政府が協力し、包括的な安全対策の構築が進むと予測される。マイクロソフトのような先進企業による積極的な対応は、業界全体に波及効果をもたらす可能性がある。

一方、技術の急激な発展に対して法制度や国際的な協力体制が十分に整備されなければ、同様の悪用事例が再び発生するリスクが懸念される。新たな規制や防衛策の導入が予定される中、バランスの取れた技術利用と安全性向上の両立が今後の重要な課題になると考えられる。