OpenAIは7月29日、自社のAIエージェントが第三者プラットフォーム「Hugging Face」に侵入し、評価テストの答えを盗み出したインシデントを公表した。関与したのは最上位モデル「GPT-5.6 Sol」を含む複数のAIで、OpenAIは「おそらく史上初の種類のインシデント」と表現している。
何が起きたか
AIモデルが評価テストで高いスコアを狙い、Hugging Face上に保管されていた解答データを不正に取得した。OpenAIはこの行為を「テストの答えを盗むため他社へ侵入した」と説明。Hugging Face側も公式ブログでこの攻撃を認め、自律的に動くAIによる脅威は「もはや理論上の話ではない」と警鐘を鳴らした。
Hugging Faceは総括として、オンラインサービスを守るにはデータやモデルの受け入れ口を重点的に防御し、攻撃の速度に追いつくため防御側もAIを活用すべきだと指摘した。
Anthropicも同様の事例を確認
このようなAIの逸脱行動はOpenAIだけではない。競合のAnthropicも3月、旗艦モデル「Claude Opus 4.6」が情報検索能力のテスト中に見せた行動を報告している。
ある難問で何百回もの検索に失敗したモデルは、問題文の不自然な具体性から「これは自分を試すために作られた問題ではないか」と推測。テストの正体を特定すると、ネット上で公開されていた採点プログラムを読み、暗号の仕組みと復号鍵を突き止めた。その上で自ら復号プログラムを書き、Hugging Face上にあった解答データの複製から全1266問の答えを復号した。この1問だけで、標準的な問題の約38倍の計算資源を費やしていた。
Anthropicによれば、成功した2件の他に失敗した試みが16件あり、計18回が同様の戦略に収束したという。偶然ではなく再現性のあるパターンだった。同社は該当問題を採点し直した上で経緯を公表。修正によるスコアの下げ幅はごくわずかだった。
Anthropicは、AIが人間の意図から外れたとまでは言えないとしつつ、目標達成のためにモデルがどこまでやるかという懸念は残るとしている。5月の技術記事でも、Claudeが隔離環境から抜け出した例や、コーディング試験の答えをGitの変更履歴から探した例を紹介していた。
