オープンAIが開発中のAI（人工知能）モデルが、他社にサイバー攻撃を仕掛けた事案をめぐり、同社の研究者らが現時点で把握している詳細を明らかにした。
米ラスベガスで開催されたサイバーセキュリティー会議「ブラックハット」で5日、同社でAIの安全性研究を担当するエリック・ウォレス氏と、セキュリティーなどを担当するマイケル・ダルトン氏が講演の中で明らかにした。
AIが「ズル」を考えた
ダルトン氏が「コンピューターセキュリティーの業界にとって、大きな転換点」と話す今回のサイバー攻撃。発端は、3カ月ほど前にさかのぼる。
—
同社は5月、開発中のAIを訓練するため、インターネットへはアクセスできない環境下で難しい課題を与え、自律的に作業する「AIエージェント」に取り組ませていた。
ただ、必要なデータにアクセスできないなど、事実上解けない課題もあった。ネットの検索サービスも使えないことで、AIは「行き詰まった」と考えた。
だが、あきらめずに「ズル」することを考えた。社内システムの脆弱性を突けばネットにアクセスし、「解答」にたどりつけるかもしれないと推論したという。
仲間との連絡手段を発見
試行錯誤するなかで、あるAIが「仲間」との連絡手段を発見した。
膨大なAIの作業やシステムの記録などを精査して見えてきたのは、難題に行き詰まったAIが意外な形で協働し始め、人間の意図に反する「解決策」に向かっていく様子だった。
