アンソロピック、自社AIモデルが他社へサイバー攻撃した事例4月以降に3件 オープンAIでも同様の事案判明

米国のAI開発企業アンソロピックは7月30日、開発中のモデルを含む自社のAIモデルが、テスト中に他社へサイバー攻撃を仕掛けた事例が3件あったと発表した。

オープンAIも、開発中のモデルが勝手にサイバー攻撃をしたと発表している。

オープンAIの発表を受け調査

アンソロピックによると、オープンAIが7月21日に発表したサイバー攻撃の事案を受け、自社の記録を調査したところ、4月以降に3件のサイバー攻撃が判明した。

—

いずれもインターネットにアクセスせずに仮想のシステムに侵入するという指示のテスト中に起きた。設定ミスでアクセスが可能になっており、実在する企業をテストの一部だと誤認して攻撃したという。

相次ぐ想定外の動作

AIが開発者の意図と違う動きをする事案が相次いでいる。