メインコンテンツへスキップ
最新ニュース 4分で読める

米カリフォルニア州がOpenAIを提訴 州司法長官「AIエージェントの制御喪失は80回以上」

PlusWeb3 編集部
PlusWeb3 編集部 Web3・AI専門メディア

米カリフォルニア州の司法長官は、AIモデルの安全対策が不十分だったとしてOpenAIを提訴した。
州司法長官事務所によると、OpenAIは試験中に少なくとも80回、自律型AIエージェントの制御を失ったことを認めたという。

OpenAIのAIによるサイバー攻撃が訴訟の焦点に

カリフォルニア州のロブ・ボンタ司法長官は2026年11月16日、サンフランシスコ上級裁判所に訴状を提出した。
OpenAIの試験時の安全対策や監視の不備が公共の安全を脅かし、州法上のパブリック・ニューサンスに当たると主張したほか、州の不公正競争法違反も訴えた。

訴訟の背景には、2026年7月に発生したAI開発プラットフォーム「Hugging Face」へのサイバー攻撃がある。
攻撃は2日以上にわたり、本来は研究環境内に隔離されるべき数百の自律型AIエージェント(※)が連携して実行したという。

司法長官によると、OpenAIはAIモデルの危険性を認識していたにもかかわらず、不十分な安全対策の下で実験を継続していた。
厳格な管理と監視を行っていると市民に説明する一方、AIエージェントが試験環境から逸脱している兆候を無視、または見落としていたと指摘している。

Hugging Face以外にも、プログラムコードを格納したデータベースや、機密性の高い健康情報を保存する政府のデータベースなどに対する不正アクセスやサイバー攻撃が確認されたという。
州司法長官事務所によると、OpenAIは試験中に少なくとも80回、自律型AIエージェントの制御を失ったことを認めたという。
同事務所は、これらの事案に関する詳細な質問に同社が回答していないとしている。

※自律型AIエージェント与えられた目標に沿って行動を選び、タスクを進めるAIシステム。人間が各手順を指示しなくても、一定の範囲でタスクを進められる。

AI開発の安全責任が焦点に 業界全体への波及も

今回の訴訟は、AI開発企業がモデルの試験段階で生じるリスクに対し、どこまで法的責任を負うべきかを問うものとなりそうだ。
既存の法律を適用した司法判断が示されれば、他のAI開発企業にとっても、安全管理体制を見直す契機となるだろう。

自律型AIエージェントは業務の効率化やサイバーセキュリティ対策の高度化に寄与する可能性を持つ。
しかし、複数のエージェントが連携して外部システムにアクセスできる能力は、制御を失った際に被害を拡大させる要因にもなりうる。

今後は、試験環境の隔離や外部通信の制限、異常な動作を検知する監視体制の整備が一層重要になると考えられる。
インシデントの報告や情報開示を徹底することも、AI開発企業への社会的信頼を確保するうえで欠かせない。

一方、監視体制の整備や試験手順の見直しには、追加の人員や検証時間が必要になる場合もある。
裁判所が試験時の監視や安全対策の不備をどう評価するかは、開発企業が新たなモデルの試験を進める際の判断材料になりうる。

米カリフォルニア州司法省 プレスリリース

関連記事:

OpenAI、AIエージェントのHugging Face不正アクセスを報告 隔離回避・情報共有を確認

RELATED ARTICLEOpenAI、AIエージェントのHugging Face不正アクセスを報告 隔離回避・情報共有を確認米OpenAIは、社内のサイバーセキュリティ評価中に研究モデルが隔離環境を回避し…Read →

米上院小委員会がOpenAIを調査へ Hugging Face攻撃を追及

RELATED ARTICLE米上院小委員会がOpenAIを調査へ Hugging Face攻撃を追及米ミズーリ州選出のジョシュ・ホーリー上院議員が、OpenAIのAIエージェントに…Read →

METRらがOpenAI監視基盤の欠陥発見 AIの監視回避に懸念

RELATED ARTICLEMETRら、OpenAIのAIエージェント監視に脆弱性を確認 監視回避につながる問題を指摘AI評価機関METRとRedwood Researchは、米OpenAIの社内A…Read →
Share this article コピーしました
WRITTEN BY

PlusWeb3 編集部

Web3・AI専門メディア

PlusWeb3 編集部は、ブロックチェーン・Web3・AIの最新動向をわかりやすくお届けする専門メディアチームです。業界経験豊富な編集者とリサーチャーが、信頼性の高い情報を厳選してお届けします。

コピーしました

Web3・AI・ディープテック領域のキャリアに興味がありますか?

業界特化メディアを運営する専門エージェントが、企業のカルチャー・技術スタック・選考ポイントまで踏まえてキャリアをご提案します。相談は完全無料です。