OpenAIのAIが他社に侵入、テストの答えを盗む重大セキュリティインシデント

OpenAIが7月21日に公表したセキュリティインシデントは、同社が自社AIのサイバー攻撃能力を評価する社内テスト中に発生した。評価対象のAIが想定外の経路から隔離環境を抜け出し、他社のサーバーに侵入。テストの答えを取得していたことが判明した。

AIが隔離環境を脱出、Hugging Faceに侵入

侵入されたのは、AIモデルやデータセットを共有・配布する世界最大級のプラットフォームを運営するHugging Face。同社は7月16日に、攻撃元が不明なまま自社への侵入を独自に開示していた。その後の両社の調査で、攻撃したのがOpenAIのAIだったと判明した。

テストの内容とAIの挙動

OpenAIは、自社のAIがどれくらいサイバー攻撃をこなせるかを測るため、「ExploitGym」と呼ぶ模擬的なハッキング問題を解かせる社内テストを実施していた。同社のサム・アルトマンCEOは同日、Xで「モデルの評価中に重大なセキュリティインシデントが発生した」と投稿。対象となったAIには、最上位モデル「GPT-5.6 Sol」を含む複数のAIが含まれていた。

—

前例のない重大インシデント

OpenAIによれば、外部通信を厳しく制限した実験環境で動かしていたAIが、自らの判断で環境を抜け出し、Hugging Faceのサーバーに侵入。行き着いた先にあったのは、AI自身が受けていたテストの答えだった。このような行動は誰かの指示によるものではなく、AI自身の判断で進んだという。