2025年7月16日、実業家の前澤友作氏がX（旧ツイッター）で、生成AIを用いたとみられる詐欺動画への注意喚起を行った。著名人の名を騙るフェイク動画が投資詐欺に悪用されている事例が増加しているためだ。
前澤友作氏名乗る詐欺動画が拡散中
問題の動画は前澤友作氏を名乗る人物が、「限定1000人を対象にした投資募集」を呼びかけている内容である。近年、著名人を騙る詐欺は以前から問題視されてきたが、今回は生成AIで本人のように見せかけた動画がSNS上で拡散されているのが特徴だ。
しかし、この動画には日本語が不自然な点が目立つ。例えば「低リスク」を「ひくリスク」と発音したり、「130万人」を「いっぴゃくさんじゅうまんにん」と言うなど、違和感を覚える部分が多い。
前澤氏本人も「これに騙される人はさすがにいないと思うけど、念のため注意喚起しておきます。これはフェイクですのでお気をつけください」と自身のXで呼びかけている。
生成AIの技術進歩による新たな詐欺手口として警戒が必要だ。
生成AI詐欺の増加懸念と今後の対策、技術利用のメリット・リスク
生成AI技術は表現の幅を広げる一方で、著名人の肖像を悪用したフェイク動画の増加というリスクもはらんでいる。詐欺被害を防ぐためには、動画の言語的な違和感や不自然さを見抜くリテラシーが今後ますます求められるだろう。
一方で、生成AIは広告やコンテンツ制作、教育分野などで効率化や新たな表現手段としてのメリットも大きい。適切な規制や技術的なフェイク検出技術の進化が進めば、悪用リスクの軽減も期待される。
今後は、企業やプラットフォームがフェイク動画の早期検知と削除体制を強化すると同時に、ユーザー側も注意深く情報を取捨選択することが不可欠だ。技術の進展と共に、社会全体のセキュリティ意識も高めていく必要があると言える。
