米NVIDIAはAIの安全性とセキュリティ向上を目的とする業界連合「Open Secure AI Alliance」の設立を発表した。
主要企業や財団と連携し、防御担当者が検証・管理できるオープンなAIツールの開発と共有を進める。
NVIDIA、AI防御のオープン基盤を共同構築
2026年7月27日に設立が発表された「Open Secure AI Alliance」は、Linux FoundationのAkritesイニシアチブやOpenSSFの活動を基盤に、AI時代のソフトウェアとエージェントを保護する技術、手法、ツールを開発・共有する業界連合である。
NVIDIAをはじめ、Microsoft、IBM、Hugging Face、Cisco、Cloudflare、CrowdStrike、Red Hat、Salesforce、SAP、Siemensなど、クラウド、サイバーセキュリティ、AI研究を代表する企業・団体が創設パートナーとして参加した。
同連合が重視するのは、モデルだけでなく、アイデンティティ、権限、ハーネス（※）、ガードレール、ログ、評価を含むエージェント基盤全体の安全性だ。
防御担当者がシステムを自社環境で検証し、用途に応じて調整できる状態を整えることで、特定事業者への依存や単一障害点の回避を目指す。
NVIDIAはオープンモデルやモデルウェイト、データ、エージェントハーネス研究を提供する。
さらに、エージェントの挙動をテスト、追跡、監査、管理しやすくする研究用フレームワーク「NVIDIA Labs Object-Oriented Agent」をGitHubで公開した。
参加各社も、安全なモデル形式やゼロトラスト型の認証、複数モデルによる脆弱性検査などを持ち寄る。
※ハーネス：AIモデルに外部ツールや権限管理、ログ、評価機能などを組み合わせ、エージェントとして安全に動作させるための実行基盤や制御構造。
透明性向上の一方、悪用対策が普及の焦点に
オープンなAI防御基盤が広がれば、企業や政府は自らのインフラ上でモデルや制御機能を検証し、業界や地域の要件に合わせて調整しやすくなる。
脆弱性の発見や修正を複数の組織が担えるため、防御技術の高度化と迅速な共有にもつながる可能性がある。
一方、オープンモデルはガードレールを弱める改変や、サイバー攻撃への転用に利用されるリスクが考えられる。
透明性を高めるだけでは安全性は確保できず、利用権限の管理、厳格な評価、監査ログ、不正利用を禁じるルール、脆弱性の迅速な修正を一体で整備する必要があるだろう。
今後は、クローズドモデルとオープンモデルを対立させるのではなく、用途に応じて組み合わせる設計が重要になりそうだ。
Open Secure AI Allianceが参加企業の技術を共通仕様へ落とし込み、実運用で有効性を示せれば、AIセキュリティの標準形成を主導する存在になり得る。
ただし、多数の企業が参加するだけに、開発方針や責任範囲をどこまで統一できるかが継続的な課題と言える。
関連記事：
NVIDIA、韓国の国家AI戦略を加速 KAISTと共同AI研究所設立で産学連携を強化
