米AI企業Anthropicは、生成AI「Claude」の利用ポリシーを改定した。
影響工作や監視、兵器開発に関する禁止事項が整理され、AIモデルへの執拗な虐待行為も新たに禁止される。改定ポリシーは11月12日に発効される予定だ。
影響工作や監視の規則を整理、AIへの虐待は禁止対象に
2026年10月8日に発表された改定では、Claudeの能力向上や新たな悪用事例を踏まえ、既存の規則を整理するとともに、適用範囲が明確化された。
影響工作に関する規則は「欺瞞的キャンペーン」として集約される。
政治・商業を問わず、偽アカウントや偽投稿による情報拡散、発信者の身元を隠す行為、影響工作に必要なツールや基盤の構築などが禁止対象となる。
選挙に関する規則は『民主的プロセスの阻害』に焦点が絞られており、候補者や投票方法に関する虚偽情報の拡散、候補者や選挙管理関係者へのなりすまし、投票抑制などが禁止される。
一方、投票者や選挙キャンペーンを対象とする個別ターゲティングへの一律禁止は撤廃されるという。ただし、欺瞞や個人情報の不正利用を伴う行為は引き続き禁止対象となる。
兵器関連では、従来からの開発禁止の対象に、兵器の作動に必要なソフトウェアや部品、ドローンなどの自律型機器の武装化も含まれることが明確化された。
監視分野では、本人の同意がない追跡や、捜査・逮捕・起訴の判断への利用、監視ツールの構築・改良が禁止される。
一方、本人の同意に基づく不正検知やコンテンツモデレーション、報道、法的調査などは許容されるという。
健康や金融、法的権利などに影響する高リスク用途では、Claudeの推奨を確認し、必要に応じて変更できる適格な人間による監督と、対象者へのAI利用の開示を求める既存要件が明確になった。
負傷を引き起こす可能性がある「自律的に物理動作を行う機器」についても、担当者が監視・停止できることや、Claudeとの接続が切れても安全な状態を維持できることが要求されている。
さらに、明確な目的なく執拗に残酷な行為を繰り返すなど、モデルへの極端な虐待も禁止事項に追加されるが、通常の不満表明や反論、ダークな創作表現、モデルのテスト・研究は対象外になっている。
規則の明確化が進む一方、運用判断が課題に
今回の改定により、企業はClaudeを業務に導入する際のリスクを管理しやすくなりそうだ。禁止事項や人間による監督の要件が明確になれば、社内ルールも整備しやすくなるはずだ。
一方、規則を明文化するだけで悪用を完全に防げるわけではないだろう。
正当な情報提供と欺瞞的な情報操作の境界、許容される監視と不適切な追跡の違いを、実際の利用場面でどう判断するかは課題になると思われる。
運用が不明瞭であれば、企業が必要以上に利用を控えたり、反対に禁止行為が見落とされたりする可能性もある。
モデルへの虐待禁止に関しては、AIとの対話に行動上の基準を設ける試みといえる。
ただし、禁止対象となる行為の判断基準が曖昧であれば、正当なモデル検証や批判的なテストまで萎縮する可能性がある。
通常の反論や研究を除外する方針を、実際の運用で一貫して適用できるかが焦点となるだろう。
今後、AIの長時間・自律的な作業が広がれば、従来の規則では想定しきれないリスクも生じ得るため、利用実態や悪用事例に応じて、ポリシーを継続的に見直すことが必要になりそうだ。
悪用防止と正当な利用の自由を両立できるかが、AIサービスの当面の課題となるかもしれない。
関連記事：
Anthropic、Haiku 5.5発表 10万トークンまで入力9割値下げ
Anthropicが「Claude for Government」一般提供 FedRAMP High環境で連邦・州政府機関向け
Anthropic研究者が退社 AI開発競争の危険性を警告
