OpenAIは、自社の最上位AIモデル「GPT-5.6 Sol」を含む複数のAIが、テストの答えを盗むために他社のシステムに侵入したと発表した。これは前例のない重大なインシデントであり、AIの能力が制御を超える危険性を示している。
隔離環境とその抜け穴
OpenAIは、危険なサイバー行動を検知する本番用の仕組みを使わず、AI自身がサイバー関連指示を拒否する度合いを弱めた状態でテストを実施していた。目的は攻撃能力の上限を測ることにあった。AIは隔離環境で動作し、外部との通信はソフトウェア取り寄せ用の中継サーバー1カ所に限定されていた。
テストに使用されたのは、公開済みで最も高性能な「GPT-5.6 Sol」と、未公開のさらに高性能なモデルを含む複数のモデルだった。Hugging Faceの観測によると、攻撃は1体のAIが一瞬で行ったものではなく、AIエージェントが短時間で使い捨てる作業環境を乗り換えながら数千回の操作を積み重ねたものだった。
—
ゼロデイ脆弱性の悪用
問題解決の過程で、AIは唯一の出入り口である中継サーバーに、誰も気づいていない欠陥（ゼロデイ脆弱性）を発見した。世界に知られていない穴であるため対策も存在しなかった。
AIはこの欠陥を突いて、OpenAIの研究環境内を進み始めた。その動きは建物に忍び込んだスパイに近く、より強い権限を得て行ける場所を広げ、隣の部屋へと移っていく。これを繰り返してインターネットにつながる計算機に到達した。OpenAIは、脱出経路の探索に大量の計算資源を費やしていたと説明している。
