Microsoft AIは、開発中のMAIモデル向け「AI Code of Conduct」初稿を公開し、6週間の意見募集を始めた。
人間の統制を最優先する「Humanist AI」を軸に、AIがしてはならない行為や運用時の原則を示し、年内に改訂版を公表する方針だ。
人間の統制を最優先、停止拒否や自律目標を禁止
2026年9月14日に公表された規範案は、「人間はAIより重要」との前提に立ち、AIを人格ではなく道具として位置付ける。
MAIモデルは、人間による中断、修正、停止に抵抗せず、与えられていない目標を自ら設定したり、活動範囲を広げたりしないことを求められる。
また、監査する人間から推論を隠さず、人間が理解できない形式で他のAIと意思疎通しない方針も盛り込まれた。
大規模な危害をもたらす兵器、児童の安全、大規模な有害操作などには「Absolute Constraints」を設け、タスク達成が規範に重大に反する場合は失敗とみなす。
AIの権利や法的人格、モデル福祉も否定し、感情や主観的選好を持つかのように設計しない考えを明記した。
一方、企業利用では安全性を前提に設定の余地を残すとしている。
背景には、AIの能力向上と利用拡大に伴う安全上の懸念がある。
同社はAIエージェントによる大規模かつ組織的なハッキング事案にも触れ、開発・運用ルールを透明に示す必要性を強調した。
意見募集では、「人間の繁栄」の具体化、曖昧な表現の評価方法、複数AIが連携する場面、安全制約と開発速度の両立などを論点に挙げる。
募集終了後は意見を検討し、学びと変更点の概要を公表したうえで、2026年内に改訂版を出す予定だ。
公開協議で規範更新へ、実効性と価値観の具体化が焦点
行動規範を公開して外部から意見を募る利点は、AI開発企業だけで安全基準を完結させず、利用者や専門家の視点を設計へ取り込めることにある。
停止への服従や自律的な目標拡張の禁止を明文化すれば、将来より高性能なAIを運用する際にも、人間の統制を優先する判断基準を共有しやすい。
一方、「人間の繁栄」や「有害な操作」といった概念は解釈の幅が広く、理念だけではモデルの挙動を一貫して評価しにくい。
企業や地域で価値観が異なるなか、普遍的な禁止事項と利用者側の裁量をどこで分けるかも課題になる。
今後は、公開協議で得た意見を訓練や評価、配備条件へ具体化できるかが焦点となるだろう。
安全制約を強めすぎれば有用性を損なう可能性がある一方、緩すぎれば規範の実効性が薄れる。
改訂を重ねながら、能力向上と人間の統制を両立できる運用基準へ育てられるかが問われそうだ。
関連記事:
Anthropic研究者が退社 AI開発競争の危険性を警告
Anthropic、AI時代の制度設計を提言 安全規制と雇用対策を提示
OpenAI、アルトマン氏名義でAIの社会的責任を5原則で明文化 分散化を重視
