米OpenAIは8月7日（現地時間）、開発中のAIモデル「Astra」について、同社の安全基準における「Critical（重大・深刻）」レベルの能力を備えている可能性を否定できないとして、一部の開発活動を停止したと発表した。セキュリティ対策を強化した上で、能力評価と安全性の検証を継続する。
社内評価で能力の著しい向上を確認
OpenAIによると、直近数日間に実施したAstraの社内評価で、エージェント型コーディングおよびサイバーセキュリティ能力の著しい向上が確認された。専門家による評価も踏まえ、同社の安全管理指針「Preparedness Framework」で定める「Critical」水準に達している可能性を排除できないと判断した。これまでGPT-5.6 Solなどのモデルは、「Critical」より一段低い「High（高）」と評価されていた。
「Critical」水準の定義
Preparedness Frameworkでは、十分に防御された実世界の重要システムに対し、モデルが人間の介入なしに、幅広い深刻度のゼロデイ脆弱性を特定し、実際に機能する攻撃手法を開発できる場合を「Critical」水準と定義している。高レベルの目標のみを与えられた状態から、防御された標的に対する新たな攻撃戦略を考案し、攻撃を一連の工程として実行できる場合も該当する。
ただし、OpenAIは現時点でAstraが「Critical」水準に達したと断定しているわけではない。予備的な評価で十分な性能が示されたため、「Criticalである可能性を排除できない」として、より厳格な安全基準を適用している段階である。モデルのベンチマークと評価は継続中である。
強化されたセキュリティ管理
OpenAIは高性能モデルおよび関連活動に対し、隔離されたテスト環境の導入、ネットワークやツールへのアクセス制限、モデル重みデータの保護強化と暗号化、監視・検知機能の拡充、サンドボックス実行など、より厳格なセキュリティ管理の導入を進めている。今回の判断を受け、これらの強化された要件を満たしていないAstraの社内活動を一時停止した。さらにAstraを用いるすべてのエージェント型アプリケーションについて、危険な行動や不整合を検知した場合に活動を中断させるモニタリングシステムを導入した。今後は政府機関や一部のAI安全性研究組織、サードパーティの検証パートナーとも連携し、能力評価を進めるとしている。
Astraの詳細は未公表
AstraについてOpenAIは、今回の発表の中で「今後登場するモデルの一つ」と説明しており、正式な製品名、モデル規模、アーキテクチャ、提供時期などは明らかにしていない。少なくとも今回の評価からは、ソフトウェア開発を自律的に進めるエージェント型コーディング能力と、サイバーセキュリティ領域で現行モデルを上回る性能を持つフロンティアモデルであることが確認できる。
なおOpenAIは、Astraが7月に公表されたHugging Faceのシステムに関するセキュリティインシデントには関与していないと説明している。
