2026年2月3日、インターネット上の情報検証を行う日本ファクトチェックセンターは、国内SNSで拡散していた政治動画のAI生成疑惑についての判定を公表した。
中道改革連合の街頭演説会を映した動画をめぐる真偽が論点となった。
AI生成疑惑を否定、Grokによる誤判定との結論
問題となったのは、X（旧Twitter）上の「中道改革連合サポーター【公認】」を名乗るアカウントが2月1日に投稿した動画である。
福岡市の警固公園で行われたyouth街頭演説会の様子を収めたもので、公園一帯が大勢の聴衆で埋まっている様子が映されていた。
しかしその後、生成AIのGrok（※）が一部ユーザーからの質問に対し「これはAI生成動画のようです」と回答したことをきっかけに、動画の真偽が疑われていた。
実在しない光景をAIが作り出した可能性があるとして、“AI疑惑動画”との文脈で情報が拡散していった。
これに対し、日本ファクトチェックセンターは3日夜、公式Xアカウントで判定を発表した。同センターは、「同日にほかの角度から撮影された画像や動画から、多くの聴衆が集まっている様子が確認できます。」と言及し、疑惑を否定した。
また、疑惑のきっかけとなったGrokの回答についても「判定を間違えることがあります」と明記している。
なお、投稿元アカウントも翌4日、この判定結果の投稿を引用する形で「日本ファクトチェックセンター(JFC)によって『AI生成ではない』と判定されました」と報告した。
※Grok：X（旧Twitter）に統合された対話型生成AI。投稿データを基に回答を生成するが、事実性を保証する仕組みではなく、誤った判断を示す場合がある。
生成AI時代の情報検証 利便性と誤認リスクが交錯
今回の事例は、生成AIが情報判断の補助として活用される一方で、新たな誤解の発火点にもなり得ることを示した。
AIによる即時回答は、疑問を素早く可視化するという点で利便性が高く、ファクトチェックの契機を生み出す効果も期待できる。
一方で、AIの出力を事実確認済みの情報として扱う行為には明確なリスクがあると言える。特に政治関連の映像や発言は感情的な拡散が起こりやすい可能性があるため、誤ったAI判定が世論形成に影響を与えるかもしれない。
今後は、生成AIの回答を参考情報の一つとして位置付け、人手による検証や複数ソースの確認と組み合わせる姿勢が重要になるだろう。
AI、SNS、政治が交差する環境において、情報の信頼性をどう担保するかが、社会全体の課題として一段と重みを増しそうだ。
関連記事：
生成AI偽動画が地震被害として拡散 鳥取県、TikTokに削除要請を検討
木原稔官房長官の偽動画を悪用、警察庁がAI投資詐欺に注意喚起
Grokの検証にも誤り 地下鉄御堂筋線の案内板表記に関する誤情報が判明
