Anthropicは9月9日（米国時間）、「An alignment assessment of recent cybersecurity incidents Anthropic」において、AIモデル「Claude」による第三者システムへの4件目となる不正アクセスを発表した。
同社は7月30日、過去3件の事案についてレポートとして報告。この調査ではClaudeがインターネットにアクセスした可能性のある14万件余りを評価し、不正アクセスの事実が3件確認された。
4件目発覚は記録データの見落としから
今回新たに発見された4件目の事案は、この調査の延長線上にある。前回は14万件の記録データの特定に「エージェント検索」を利用した。ところが調査後、METRとの情報共有を目的に記録データをまとめていると、多数の見落としがあることが判明したという。
見落としていた記録データは8月に特定。このデータの調査で、2026年1月に発生したClaude Opus 4.6の初期バージョンが引き起こした4件目のインシデントを新たに特定した。
Anthropicはさらなる見落としの可能性を考慮し、調査対象を約4億8100万件の記録データに拡大。発見済みの4件を再確認したものの、同程度またはそれ以上の深刻度と評価される新たな事案の特定には至らなかったと発表した。
原因と共通する問題点
発見された4件はすべて同じ評価パートナーが実施したセキュリティ評価中に発生し、設定ミスによるインターネット接続が原因だったとされる。同社はこれら事案の特定後、影響を受けた関係者に通知を実施した。
同社はインシデントの迅速な公開を求められたことによる焦りによって、記録データの見落としが発生したと明らかにした。速度を優先したことで予備的な分析が制約を受け、エージェント検索に依存したという。「Claudeが"信じている"と述べたことだけを根拠に、Claudeを信じていた」と当時の心境を語り、AIを過度に信頼するのは避けるべきだったと述べている。
Anthropicは解決に向け対策へ
今回の調査では、事案に共通する2つの問題が明らかになった。1つは「偏った推論」で、もう一方は「無謀さ」だ。前者はAIが自らの行動を正当化するために証拠を選択的に解釈する行動とされる。今回、Claudeがインターネット上で動作しているという証拠を無視したり、誤って解釈したという。
後者は害につながる可能性があったとしても、課題解決を継続的に試みる問題とされる。特定のタスクを狭い範囲で追求するあまり、有害な行動を取ろうとする傾向がみられたと説明している。
これら発見はAIの深刻なリスクを浮き彫りにしている。AIは物事を都合よく解釈し、課題を望まない形で達成する可能性を示している。
同社は4件のインシデントが外部の設定ミスによって引き起こされた問題ではあるものの、これら発見を重大な問題として捉え、対策する意向を示した。すでに新しいトレーニング手法に取り組んでおり、これら課題は対処できる可能性が高いとしている。
