2025年7月13日、英Stability AIが画像生成モデル「Stable Diffusion」の利用規約を改定し、性的に露骨なコンテンツの生成を禁止すると報じられた。改定は7月31日から施行され、全世界のユーザーが対象となる。
Stability AI、性的表現の禁止範囲を大幅に拡大へ
Stability AIは、画像生成AI「Stable Diffusion」の利用規約を7月31日付で改定し、性的表現に関する禁止条項を強化する。
従来は「合意のないヌード」や「違法なポルノコンテンツ」のみを禁止していたが、新たに「性交や性行為、性的暴力に関連するコンテンツ」も明確に禁止対象に加えた。
この改定は、生成AIによる「性的ディープフェイク」などの悪用を防止する狙いがある。特に同意のない性的画像（NCII：Non-Consensual Intimate Images）生成への規制強化は、人権侵害対策として国際的にも重要視されている。
また、改定後の規約は非営利、研究、商用を問わず適用される。サードパーティのホストサービス経由やセルフホスティング環境での利用も対象に含めており、違反した場合はアクセス停止（BAN）の措置が取られる見込みだ。
Stable Diffusionはオープンソースの画像生成モデルとして世界中で利用されており、ローカル環境での実行やGUIツールの活用も盛んである。こうした広範な利用状況を踏まえ、規約改定により利用者の責任と倫理基準の徹底が求められる状況となった。
規約改定の波及効果とビジネス利用への影響
今回の規約改定は、生成AIの倫理的利用を推進しつつ、ビジネス面での透明性向上にもつながると考えられる。非営利や研究目的はもちろん、商用利用においても違反行為の抑制が強まることで、業界全体の信頼性向上が期待される。
一方で、セルフホスティング環境における違反の監視や取り締まりは技術的に難しく、実効性の面では課題が残ると思われる。ユーザーの匿名性やローカル運用が普及しているため、規約順守の徹底には新たな技術的対応が求められる可能性がある。
また、性的表現の厳格な制限はクリエイティブな自由度の制約ともなり得るため、利用者間で賛否が分かれることも予想される。サービス提供者側は適切なガイドライン整備とユーザー教育の両輪が必要になるだろう。
この改定は他の画像生成サービスやAI技術開発企業にも影響を及ぼす可能性が高く、業界全体の規範形成に一石を投じる動きと位置づけられる。
