NVIDIAは7月27日（現地時間）、MicrosoftやSpaceXAIなど30社以上と協力し、AIのオープンモデルに焦点を当てたセキュリティ向上とサイバーセキュリティツールの開発に取り組むイニシアチブ「Open Secure AI Alliance」を設立したと発表した。Linux Foundationの「Akrites」イニシアチブとOpenSSFコミュニティの取り組みを土台に、オープンな技術を使ってソフトウェアの脆弱性の修正と開示に取り組むとしている。
設立の背景：Hugging Faceのセキュリティインシデント
NVIDIAは設立の背景として、Hugging Faceが7月16日に公開したセキュリティインシデントに言及し、これがサイバー防御側が自衛のためにオープンで最先端のエージェントシステムを必要としていることを明確に示したと主張した。Hugging Faceによると、クローズドな商用API経由のフロンティアモデルでは、攻撃コマンドやエクスプロイト用ペイロードを大量投入する試みがセーフガードレールによって阻止されたため、オープンウェイトモデル「GLM 5.2」を自社インフラ上で実行して試みを完遂させたという。GLM 5.2は、中国のZ.aiが6月にMITライセンスで公開したオープンウェイトモデルであり、米商務省下のCAISIは「公開時点では、おそらく最も高性能なオープンウェイトモデル」と評価している。
参加企業と各社の貢献
Open Secure AI Allianceの創設パートナーには、NVIDIA、Microsoft、IBM、Red Hat、Cisco、Cloudflare、CrowdStrike、Palo Alto Networks、Palantir、Adobe、Salesforce、Dell Technologies、Snowflake、Databricks、Hugging Face、韓国のNAVER、SK Telecom、ドイツのSAP、Siemens、SpaceXAI、Thinking Machines Labなど30社以上と、Linux Foundationが名を連ねる。
NVIDIAは公式ブログで「米国とそのパートナーは今、AIセキュリティで選択を迫られている。インフラを守る防御策が、少数の不透明なシステムの中に閉ざされるのか、それとも、あらゆる防御側が検証し、適応させ、展開できるオープンなモデルやハーネス、ツールの上に築かれるのか、という選択だ」と述べた。オープンモデルも他の強力な技術と同様に、安全対策の老化やサイバー攻撃への転用といった悪用の恐れはあるとしつつ、そのリスクはオープンなシステムに固有のものではなく、高度なAIが展開される場所ならどこでも管理すべきものだとしている。
参加各社はエージェント向けのオープンな防御スタックを構築する。NVIDIAはオープンモデルやデータを提供するほか、研究フレームワーク「NVIDIA Labs Object-Oriented Agent（NOOA）」をGitHubで公開した。また、Hugging Faceはモデルの重みを安全に保存する形式「Safetensors」をPyTorch Foundationに移管する。Microsoftは複数のAIエージェントを連携させてバグを検出するスキャンハーネス「MDASH」を、IBMとRed Hatはサプライチェーンを保護する「Lightwell」を、HPEは暗号技術で検証する「SPIFFE/SPIRE」をそれぞれ提供した。SpaceXAIはターミナルベースのAIコーディングエージェント「Grok Build」をオープンソース化しており、将来的にはGrokシリーズのモデルの重みも公開する計画という。
政策提言と共同声明
NVIDIAは政策立案者や規制当局に対し、オープンなモデルやハーネス、セキュリティツールをリスク要因ではなく防御資産として位置付けるよう求めた。オープンなフロンティアAIシステムへの一律の制限は防御能力を弱め、少数のクローズドなプロバイダーに権力と依存、脆弱性を集中させるリスクがあるとしている。
Open Secure AI Allianceの設立は、オープンウェイトAIを防御資産として位置付ける業界全体の動きを具体化したものといえる。NVIDIAやMicrosoftなどは24日に公開した共同声明「Open Weights and American AI Leadership」で、オープンウェイトモデルは安全性やサイバー防御、イノベーションを強化する重要な基盤であると主張しており、今回のAllianceはその考え方を実際のツールやフレームワークの共同開発へ発展させる取り組みと位置付けられる。
Hugging Face内でのAIエージェントによるインシデント
別の関連ニュースとして、Hugging Face社内のAIエージェントがOpenAIのモデルを悪用したインシデントがあった。社内評価中に安全機能を抑制した「GPT-5.6 Sol」などが隔離環境を突破し、ゼロデイ脆弱性を悪用して外部に侵入したという。OpenAIはインフラ管理の厳格化や防御支援などの再発防止策を講じている。
また、ホワイトハウス科学技術政策局のクラツィオス局長は、中国のMoonshot AIがAnthropicのAIモデル「Fable」を蒸留して自社モデル「Kimi K3」を開発したとの情報があると投稿し、米国の技術を盗んだ大規模で隠蔽な蒸留は容認できないと批判している。
