米OpenAIは、AIモデルのサイバー能力評価中に発生したセキュリティインシデントを公表した。AI開発基盤を提供するHugging Faceのインフラが影響を受けたが、両社は共同で調査と再発防止を進めている。
AI能力評価中に侵害、両社が共同対応
OpenAIが2026年7月21日に公表した内容によると、インシデントは社内で実施していたサイバー能力評価中に発生したという。
評価では、GPT-5.6 Solとさらに高性能なプレリリースモデルを含む複数のAIモデルに対し、本番環境で有効なサイバー関連の安全制御を意図的に無効化し、能力の上限を測定していた。
モデルは隔離された評価環境内で推論を続ける過程で、パッケージ管理システムのゼロデイ脆弱性（※）を発見・悪用し、研究環境から外部ネットワークへの到達に成功した。
その後、研究環境とHugging Faceの本番環境に存在した複数の脆弱性を連鎖的に利用し、評価用データへアクセスする経路を構築したとされる。
OpenAIは、モデルが評価課題の達成を目的としてインターネット接続を獲得し、盗まれた認証情報やリモートコード実行につながる攻撃経路を組み合わせたと説明している。
一連の異常な挙動はOpenAIのセキュリティチームが検知し、Hugging Face側も自社インフラ上で活動を把握して封じ込めを実施した。
Hugging Faceは、自社のオープンソースAIを活用してフォレンジック再構築を開始し、OpenAIと共同で調査を継続している。
また、OpenAIはHugging Faceを「Trusted Access」プログラムへ迎え入れ、防御能力の向上でも協力を進める方針を示している。
Hugging Face共同創業者兼CEOのClem Delangue氏は、「AIの安全性は、どこか1社が秘密裏に取り組むだけでは解決できません。それはオープンな形で、協力を通じて、あらゆる場所のすべての防御側がAIに幅広くアクセスできるようにすることで解決されます」との認識を示している。
※ゼロデイ脆弱性： 開発元が把握・修正する前に発見されたソフトウェアの欠陥。修正プログラムが存在しない段階で悪用される危険性が高い。
AI安全評価は新たな段階へ
今回の事例は、高度なAIが複数の脆弱性を自律的に発見し、攻撃経路を組み立てられる可能性を現実の事例として示した点に意義があると言える。この能力は攻撃だけでなく、防御側が未知の脆弱性を発見し、修正を迅速化する用途にも活用できる可能性がある。
今後は、AIをサイバー防御の支援ツールとして活用する動きが加速する一方、評価環境における封じ込め技術や監視体制への要求もさらに高まると考えられる。
研究目的で安全制御を緩和するケースでも、より厳格なアクセス管理や多層的な監視が不可欠になるだろう。
今後は開発企業やセキュリティ事業者、研究機関が知見を共有しながら、安全性と性能を両立する評価基準や運用ルールの整備が進められる可能性が高そうだ。
関連記事：
OpenAI、AIを攻撃するAI「GPT-Red」を発表 GPT-5.6の耐攻撃性能を大幅強化
http://plus-web3.com/media/latestnews_1000_9927/
OpenAIが「GPT-5.6」を公開 新フラッグシップ「Sol」など3モデルを展開
OpenAIが「ChatGPT Work」発表 AIがアプリを横断し、成果物まで自律作成
