料理系YouTuber「きまぐれクック」になりすましたAI生成の偽動画がYouTube上で確認され、2025年7月3日、所属事務所が注意を呼び掛けた。
詐欺サイトへの誘導を目的としたもので、すでに被害も報告されている。
AI音声と過去映像を悪用 詐欺目的の偽動画がYouTubeに出現
人気YouTuber「きまぐれクック」ことかねこ氏をかたるAI生成の偽動画がYouTube上で確認されている。
使用されているのは、過去の投稿映像を半透明に加工した上で、AI音声と組み合わせた編集映像である。
動画内では「指定サイトにアクセスすれば金銭が得られる」などと説明されており、視聴者を外部の詐欺サイトに誘導する手口が取られている。
これに対し、同氏の所属事務所であるCarry Onは7月3日、公式Xアカウント上で注意喚起を発信した。
また、かねこ氏本人も7日、YouTubeのサブチャンネルで現状を報告し、「消してもまたすぐに同様の動画がアップされる」と、いたちごっこの状況を明かした。
AIフェイク動画が増加中、被害拡大防止は運営側の対応強化が鍵に
今回の事例は、YouTubeをはじめとする動画プラットフォーム上でのAIフェイク動画拡散の深刻化を象徴するものである。
きまぐれクック氏は現在、YouTube登録者数1400万人超、総再生回数34億回を誇る国内トップクラスのYouTuberであり、その影響力の大きさゆえに標的になった可能性が高い。
生成AIは、映像や音声コンテンツの制作を飛躍的に効率化し、低コストでリアルな表現を可能にするという点で、非常に優れた技術である。一方で、今回のように悪用されるケースでは、深刻な被害につながる恐れもある。
実際に本件以外にも、偽情報動画が表示されるとの声が最近は相次いでいる。「ゆうちょ銀行の口座が7月から使えなくなる」「高齢者のバス代が全国で無料になる」といった偽情報が拡散されており、関係機関が否定声明を出す事態となっている。
知名度の高いインフルエンサーを悪用することで、視聴者の信頼を逆手に取る手口が成立してしまうことは、単なる迷惑行為を超え、金銭的損失を伴う実害へと直結する危険性を孕んでいるといえる。
AIフェイク動画の増加は今後も不可避と見られ、特にYouTubeやTikTokなど短尺・大量消費型のプラットフォームにおいては、同様の被害がさらに広がる可能性がある。
今後は、AI音声や顔の類似を自動検出する技術や、本人確認ラベルの導入といったプラットフォーム側の対策強化に加え、通報対応の迅速化と精度向上が求められるだろう。
参考：
「ゆうちょ銀行による注意喚起」
「福祉局による注意喚起」
www.fukushi.metro.tokyo.lg.jp
