マスク氏のAI「グロック」に信頼性の疑念　イスラエル・イラン情勢で誤情報拡散の指摘

2025年6月24日、米シンクタンクのアトランティック・カウンシル傘下のDFRLabが、xAI社の生成AI「グロック（Grok）」がイスラエルとイランの紛争に関する情報提供で誤情報や矛盾を含む回答を行っていたとする分析結果を発表した。AIの信頼性をめぐり、改めて議論が高まっている。

戦時下のAI情報提供に限界　誤情報に翻弄されたグロック

アトランティック・カウンシルの研究機関であるデジタルフォレンジック・リサーチラボ（DFRLab）は24日、xAI社の生成AI「グロック（Grok）」に関する調査報告を公開した。

同ラボは、イランによるイスラエルへの報復攻撃を契機に、X（旧ツイッター）上でのグロックの回答履歴を分析。その結果、AIが作り出した空港破壊映像を巡る同種の質問に対して、破壊を否定する発言と被害を認める発言をわずか1分間のうちに繰り返していたことが判明した。

この事象は、イランとイスラエル間で高まった緊張状態の中で、AIが不確かな映像情報を正確に分類・検証できず、瞬時に矛盾したメッセージを発信していたことを意味する。しかも、それらの回答は数百万回視聴されていたといい、AIの拡散力と影響力の大きさが浮き彫りとなった。

DFRLabは、13万件以上の投稿を対象に、複数言語でグロックの反応を検証。その過程で、AI生成メディアの内容に対して一貫したファクトチェックができていないという問題点を指摘している。

生成AIの情報精度に再び課題　利用拡大の裏で問われる責任

今回の報告は、生成AIが社会的に重大な局面で果たす役割と、そのリスクを改めて浮き彫りにした。

グロックはイーロン・マスク氏が率いるxAIが開発し、同氏が所有するSNS「X」に統合されているAIである。リアルタイムで質問に回答できる点を売りにしているが、現実には緊急時の混乱に耐えうる精度と整合性には欠けていた。

AIの情報処理は大量データに依存しており、出典不明の画像や映像に基づく判断は間違いを招きやすい。特に、フェイク画像やAI生成映像がSNS上に氾濫する中で、その正誤を瞬時に判断する能力は限定的である。

一方で、グロックのような生成AIが持つ拡散力や即応性は、情報の民主化に大きく貢献する可能性もある。

だが、それには根本的なファクトチェック機構の強化と、透明性の高い回答履歴の開示が不可欠だ。

AIの進化が進むほど、開発企業や提供プラットフォームの説明責任が問われる局面が増えることになる。