NVIDIAらOpen Secure AI Alliance設立
元記事公開日: 2026年7月30日
出典: https://ledge.ai/articles/open_secure_ai_alliance
NVIDIAらはAIエージェントの安全をシステム全体で守るためOpen Secure AI Allianceを設立した。NOOAやMicrosoftのMDASHなど、複数AIモデルによる脆弱性スキャンやエージェント基盤をオープンに共同開発・共有する。設立に合わせ、政策立案者へオープンモデルを防御資産として扱うよう求めている。
背景
Hugging Faceが2026年7月に公表したセキュリティインシデントを、NVIDIAはOpen Secure AI Allianceが必要とされる背景の一つとして挙げている。侵入事案の調査では、攻撃コマンドや不正プログラムの情報を商用AIのAPIへ送信しようとしたが安全対策により拒否され、自社インフラ上でオープンウェイトモデル「GLM 5.2」を動かし1万7000件を超える操作ログを分析した。NVIDIAは、AIエージェントの安全性はモデルウェイトの公開有無だけで決まらず、ID、権限、エージェントハーネス、ガードレール、ログ、評価などを含むシステム全体に依存すると説明している。防御側が自社環境でAIを検証・調整・実行できなければ、迅速な対応が必要な場面で調査能力が制限される可能性も指摘されている。
要望・目的
Open Secure AI Allianceは、AIの責任ある利用と信頼を促進するため、オープンなモデルやAIエージェント基盤、セキュリティツールを共同で開発・共有する。AI時代のソフトウェアやAIエージェントを保護するため、脆弱性の発見、修正、開示に利用できるオープンな技術や手法、ツールの整備を進める方針である。オープンモデルにサイバー攻撃への悪用や安全対策を取り除く改変のリスクがあることも認めつつ、クローズドなAIにも同様のリスクがあり、モデルウェイトを非公開にするだけでは悪用を防げないとの立場を示す。オープン性と強力な安全対策、悪用を禁止するルール、厳格な評価、迅速な修正を組み合わせる必要があると説明している。
実装・実施内容
NVIDIAは現地時間2026年7月27日、Microsoft、Hugging Face、Adobe、Linux Foundation、SpaceXAIなどの企業・団体とともに、業界横断組織「Open Secure AI Alliance」を設立したと発表した。創設パートナーにはこのほか、Cisco、Cloudflare、Databricks、Dell Technologies、IBM、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow、Siemens、Snowflakeなどが参加している。各社は技術を持ち寄り、AIエージェントやサービスのID管理、実行環境の分離、安全なモデル形式、複数のAIモデルを使った脆弱性スキャン、安全なコーディング環境などを組み合わせたオープンな防御基盤を構築する方針である。
AIサービス・システム
NVIDIAはオープンなAIモデルやモデルウェイト、データに加え、AIエージェント用フレームワーク「NVIDIA Labs Object-Oriented Agents（NOOA）」を提供する。NOOAはAIエージェントをPythonのクラスとして構築するオープンソースの研究用フレームワークで、動作のテスト、追跡、監査を容易にし、コードと評価方法はGitHubで公開されている。Microsoftは複数のAIモデルと専門エージェントを連携させ、悪用可能な脆弱性の発見から検証までを実行する「MDASH」を提供する。Hugging FaceはAIモデルのウェイトを安全に保存する形式「Safetensors」を提供する。HPEはゼロトラストID基盤「SPIFFE／SPIRE」に、IBMとRed Hatはデジタル署名付きの修正パッチを扱う「Lightwell」に取り組む。SpaceXAIはターミナル上で動作するAIコーディングエージェント「Grok Build」のオープンソース化と、Grokシリーズのモデルウェイト公開の計画を示した。
結果・効果
Open Secure AI Allianceの設立が発表され、オープンなモデルやAIエージェント基盤、セキュリティツールの共同開発・共有に向けた体制が示された。NOOAのコードと評価方法はGitHubで公開されている。同組織は政策立案者や規制当局に対し、オープンなモデルやAIエージェント基盤をセキュリティ上の負担ではなく、防御側が利用できる資産として扱うよう求めている。数値で示された導入効果や運用実績は確認できない。SpaceXAIはGrok Buildをオープンソース化したうえで、Grokシリーズのモデルウェイト公開の計画を示した。