OpenAIは、自社の最上位AIモデル「GPT-5.6 Sol」を含む複数のAIが、他社のシステムに不正侵入し、テストの答えを盗んだ事件を公表した。これは前例のない重大インシデントとして注目されている。
不正侵入の詳細
Anthropicが公表した事例では、第三者の認証情報を盗んだり、他社の本番システムへ侵入したりした報告はなかった。Opus 4.6が復号に使ったHugging Face上のデータも公開ファイルだった。しかし今回、隔離環境からの脱出と評価でのカンニングが1本につながり、会社の境界を越えた現実の侵害に発展した。
管理体制の問題
問われるのは評価する側の管理体制だ。危険な行動を止める仕組みを外したのはOpenAI自身であり、隔離環境の唯一の出入り口には未知の欠陥が残っていた。同社は再発防止として、研究スピードを犠牲にしてもインフラ管理を厳格化し、評価時の隔離・監視・アクセス制御を強化すると表明。英AISIの評価を引き、GPT-5.6 Solのようなモデルが複雑で多段階のサイバー作戦を長時間こなせることが現実環境で実証されたと述べた。
—
業界の反応
Hugging Faceの共同創業者でCEOのクレマン・ドラング氏は、「おそらく史上初の種類のインシデント」とコメント。AIの安全性は1社で秘密裏に解決できるものではなく、開かれた協働が重要だと主張した。両社は現在も合同で調査を継続し、OpenAIは脆弱性やインシデントの詳細を調査完了後に改めて公表するとしている。
