2026年8月25日、米AI大手のOpenAIは、ロシアに拠点を置くグループがChatGPTを悪用した世論操作を行っていたとして、関連アカウントを停止したと発表した。組織的な影響力行使の事例として注目される。
ChatGPT悪用による親ロシア世論操作の手口と工作活動の実態
OpenAIが発表した報告書によると、同社はロシア由来とみられる複数のChatGPTアカウントを停止した。オペレーターはVPN経由で接続し、ロシア語特有の表現を消去する指示を与えつつ、主に英語でSNS投稿の文面を生成させていたという。
工作活動の目的は「国際バーク研究所（IBI）」と称する架空のシンクタンクの宣伝であり、ウェブサイトには実在する学術論文が無断盗用されていた。ChatGPTはXやFacebook、LinkedIn、Telegramなどでの宣伝メッセージや投稿への返信生成に利用されていた。また、欧州や米国を標的としたTelegramチャンネルのロゴ作成や、コンテンツのロシア語要約の作成にも使われていた。
さらに、独自の「主権指数」を用いてロシアを賛美し西洋諸国を批判するレポートを掲載するなど、AI生成テキストと偽の機関を組み合わせた多層的な工作活動の実態が明らかになった。
AI生成コンテンツがもたらすメリット・リスクと今後の展望
生成AIの進展はコンテンツ作成の劇的な効率化やコスト削減といったメリットを社会にもたらす一方で、悪意ある主体にとっても高度な支援ツールとなるリスクを浮き彫りにしたと言える。
今回の工作活動自体は閲覧数も少なく影響力は限定的であったが、学術研究の盗用や偽の指数を用いて権威をでっち上げ、そこにAIによる拡散を組み合わせる手法はきわめて巧妙だ。コンテンツ生成の自動化により、従来よりも圧倒的に低コストで「それらしい権威」を演出可能になる点は、今後の大きなリスクとして懸念される。
今後は、AI単体のテキスト検知だけでなく、偽機関の設立や盗用コンテンツの流通といった周辺インフラを含めた包括的なセキュリティ対策が必要になると考えられる。プラットフォーム事業者や開発者による監視体制の強化に加え、利用する側にも情報の真偽を見極めるリテラシーがこれまで以上に求められていく可能性がある。
関連記事：
