米AppleはApp Storeの審査ガイドラインを更新し、AIで生成した非同意の親密画像への対策を明文化した。審査後に有害機能を追加するアプリや、人身取引・児童搾取に関わるアプリへの措置も明確にしている。
Apple、非同意の親密画像を審査基準に明記
米Appleは2026年10月16日、App Storeの審査ガイドラインの改定を発表した。
第1.2項では、ユーザー投稿コンテンツを扱うアプリに対し、同意のない親密画像をプラットフォーム上で積極的に防止・削除するよう明記された。
対象にはAIツールで生成された画像も含まれる。必要な保護措置を講じない場合や、違反の通知後に是正しない場合、開発者行動規範への抵触やApp Storeからの削除につながる可能性がある。
第2.5.19項では、審査時にアプリの機能を偽って申告し、承認後に提出版にはなかった機能を追加する行為が明確化された。
こうした『bait-and-switch（※）』に該当するアプリはApp Storeからの削除対象となり、開発者もApple Developer Programから除外される可能性がある。
第5項では、人身取引や児童搾取を助長するアプリや、関連するコンテンツを含むアプリについて、App Storeから削除し、代替配信もブロックする方針が明記された。Appleは、審査時には隠され、承認後に有害機能が有効化されるケースがあると説明している。
同社によると、前年には安全上の問題がある15万超のアプリの配信を阻止し、不正や乱用に関与した19万3,000超の開発者アカウントを終了させたという。
※bait-and-switch：審査時にはアプリの実態や機能を偽り、承認後に審査時に開示していなかった機能を追加・有効化する手法。ここでは、性的画像の生成など有害な機能を審査通過後に有効化する行為を指す。
被害抑止の期待と運用負担、実効性が焦点か
非同意の性的画像をめぐる基準が明確になれば、アプリ運営者が検知・通報・削除の体制を整える動機は強まるだろう。被害画像の流通を抑え、利用者が安心してサービスを使える環境づくりにもつながると考えられる。
一方、AI生成画像は加工の程度や投稿の文脈によって判定が難しい場合があり、検知基準や運用が不適切であれば、正当な創作物や投稿まで制限するリスクもある。自動検知だけに依存せず、被害申告への迅速な対応や、誤判定に対する異議申し立ての仕組みも重要になるはずだ。
また、審査時点で機能を確認するだけでは、承認後に挙動を変えるアプリを完全に防ぐことは難しいだろう。公開後の監視や再審査を組み合わせ、違反を早期に発見できるかが実効性を左右しそうだ。
開発者の管理コストは増えるものの、透明性と一貫性のある運用ができれば、App Store全体への信頼を守ることにつながるかもしれない。
関連記事：
Appleが7型HomeViewを発表 Siri AIと顔認識で家族別に情報提供
Meta、広告審査体制に課題 中国パートナー経由でAI「ヌード化」広告配信
オランダ、AIの「脱衣画像」生成を禁止 グロック規制が欧州全体に波及へ
