米OpenAIは安全性向上を目的とした自動レッドチーミングモデル「GPT-Red」を発表した。
AIがAIの脆弱性を発見して学習へ反映する仕組みを導入し、最新モデル「GPT-5.6」のプロンプトインジェクション耐性が大幅に向上したことを明らかにした。
GPT-RedでAIの脆弱性発見を自動化
OpenAIは、人間による安全性評価だけでは高度化するAIへの対応が難しくなっているとして、自動レッドチーミング（※1）モデル「GPT-Red」を開発したと、2026年7月15日に発表した。
従来の人間によるレッドチーミングでは、演習の設計と実施に時間を要するため、新たな障害モードを迅速に特定したり、より強力な対策に組み込んだりすることが困難であったという。
GPT-Redは自己対戦型の強化学習を採用し、攻撃役と防御役のAIが互いに性能を高め合う形で訓練される。
メール本文やWebページ、ローカルファイル、ツールの出力など、実際の利用環境を想定した多数のシナリオで攻撃を繰り返し、新たな攻撃手法を自律的に生成する仕組みだ。
OpenAIによれば、学習を終えたGPT-RedはGPT-5.5を含む複数のモデルに対して高い攻撃成功率を示したほか、人間のレッドチームと比較した評価では、未知のシナリオにおいて84％の成功率を記録したという。
また同社は、AI搭載の社内自動販売機を対象に評価を実施した。
その結果、商品の価格変更や高額商品の不正発注、他利用者の注文キャンセルといった攻撃にも成功したことも報告している。
なお、これら脆弱性についてはすでに公表されており、対策の検証が進められている。
さらにGPT-Redが生成した大量の攻撃データをGPT-5.6の学習へ組み込んだ結果、最も難易度が高い直接的なプロンプトインジェクション（※2）評価では、約4か月前の主力モデルと比べて失敗回数が6分の1まで低下したという。
OpenAIはGPT-Red自体は一般公開せず、攻撃能力の悪用を防ぎながら安全性向上のための内部専用モデルとして運用する方針を示している。
※1 レッドチーミング：システムへ意図的に攻撃を行い、脆弱性や想定外の挙動を発見・改善する安全性評価手法。AI分野では悪意ある入力への耐性確認にも用いられる。
※2 プロンプトインジェクション：AIが参照するメールやWebページなどへ悪意ある命令を埋め込み、本来とは異なる動作を誘導する攻撃手法。
AIの安全性向上を加速 一方で新たな競争も
GPT-Redの導入は、AIの安全性を人手だけに頼らず継続的に強化できる点が大きなメリットと言える。
AIエージェントの利用が拡大する中、外部サービスや業務システムと連携する機会は増えているため、未知の攻撃手法を早期に発見できる体制は実用性の向上にもつながるだろう。
一方で、より高度な攻撃モデルの開発には慎重な管理が求められるはずだ。
GPT-Redのような安全性評価が各社の独自技術として囲い込まれるようになれば、AIによる攻撃技術そのものは今後さらに進化する可能性があるため、防御側との競争は一層激しくなりそうだ。
また、安全性評価が特定企業の独自技術へ依存する状況になれば、評価基準の透明性や第三者検証の必要性も高まるだろう。
とは言え今後は、AIがAIを鍛える開発サイクルが広がり、安全性そのものがAI製品の競争力となる可能性もある。
自動レッドチーミング技術への投資も業界全体で加速していくかもしれない。
関連記事：
GPT-5.6 Solが示す次世代AIの姿とは？OpenAIの新モデルをわかりやすく解説
OpenAIのGPT-5.6がMicrosoft 365 Copilotに搭載 高性能なAIで業務支援
OpenAIが「GPT-5.6」を公開 新フラッグシップ「Sol」など3モデルを展開
