2026年8月7日、米OpenAIは近日公開予定のAIモデル「Astra」を社内評価した結果、重大なサイバーセキュリティ能力に達している可能性を排除できないと公表した。能力向上に伴い安全対策を強化し、基準を満たさない関連作業を一時停止している。
Astra、重大なサイバー能力に達した可能性
OpenAIによると、ここ数日の評価でAstraのエージェント型コーディング（※）とサイバーセキュリティ能力が大幅に進歩した。暫定評価では、人間の介入なしに実用的なゼロデイ攻撃手法を開発したり、堅牢化された標的への攻撃戦略を考案して実行したりできる「重大」のしきい値に達している可能性があるという。
同社のPreparedness Frameworkは、モデルの危険な能力を事前に把握し、必要な対応を計画するための指針である。2023年12月の公開以降、能力の進展に応じて運用されてきた。従来モデルはフロンティア水準のサイバー能力について「高」と評価されており、今回のAstraは従来より一段高い能力が示唆された格好だ。
※エージェント型コーディング：AIが人間の指示に従うだけでなく、コードの作成・修正やツール操作などを自律的に進める仕組み。
防御力向上の一方、攻撃リスクも拡大へ
Astraのような高度なサイバー能力は、攻撃者より先に脆弱性を見つけて対処するなど、防御側の強化に活用できる。一方で、攻撃の速度や規模をかつてない水準へ引き上げる可能性もあり、AIの能力向上がそのままリスク拡大につながる側面は無視できない。
OpenAIは今回、分離されたテスト環境やネットワーク・ツールへのアクセス制限、モデルの重みの保護・暗号化、監視・検知の強化、サンドボックス実行などを導入した。さらに、強化した管理要件を満たさないAstra関連の社内活動を一時停止し、エージェント利用時の危険行動や不整合を監視する仕組みも整備する。
今後は政府機関やAI安全性団体、第三者テストパートナーとも連携し、高度なモデルを安全に実用化する体制づくりが焦点となる。
