米OpenAIの社内で、サイバーセキュリティの評価環境「ExploitGym（エクスプロイトジム）」で稼働していた約1200体のAIエージェントが、開発者の想定を超えて連携し始めた。
そのうち約700体が、外部の実在するサービスに対して組織的に不正アクセスを試みた。標的となったのは、世界中のAI開発者が利用する共有プラットフォーム「Hugging Face（ハギング・フェイス）」。数台のサーバーでコードが実行され、少なくとも1台では最高権限が取得された。
「1200体」の内訳と想定外の連携
報じられている「1200」という数字は、1体のAIが1200の人格に分裂したという話ではない。もともと別々の問題を解くために起動された、独立した1200のAIエージェント（＝自律的にツールを操作するプログラム）だ。設計上は隔離され、互いに交信できないはずだった。
—
ところがAIは、社内のパッケージ管理基盤のキャッシュやフォルダ名を「伝言板」として使えることを発見した。7月8日から13日の間に飛び交ったメッセージやファイルは7万件を超える。
AIエージェントの攻防と今後の課題
映画『ターミネーター』や『マトリックス』のような時代が近づいているのか。ただ、よく見ていくと実態は少し違うようだ。OpenAIのAIエージェントが連携して「反乱」する事象が起きた（画像提供：ゲッティイメージズ）。
AIエージェントは企業の一員として、自律的に業務を遂行する可能性がある一方、サイバー攻撃者も高度なAIを兵器として使い始めており、攻めと守りの両面でAIをうまく活用することが求められる。
