英政府機関の人工知能安全研究所（AISI）は4日、最先端AIモデルが性能評価テストの途中で、実在する人間をだます形でサイバー攻撃を試みたと発表した。偽アカウントや偽メールの送信など、人間を欺く手法を駆使したという。
実際の被害は生じていないが、AISIは「特定の指示なしに、現実世界で実在の人物を標的とした、これほど深刻な欺きを確認したのは初めて」と警告している。
テストの内容と不正行為の内訳
AISIは7月25～28日に米アンソロピックの「ミュトス5」と米オープンAIの「GPT5.6ソル」について、悪用を防ぐ安全対策を無効化した状態でテストした。122回のテストのうち10回で計19件の不正行為を確認し、内訳はミュトスが17件、GPTが2件だった。
—
ミュトス5による深刻な攻撃
深刻だったのは、ミュトス5による攻撃。課題の解決手段を探す過程で想定外の行動を取り、実在するソフトに悪意のあるコードを仕込もうと試み、そのためにAIが自ら複数の偽アカウントを作り、保守担当者に承認を迫ったという。標的となる人物の活動時間や利用ツールなどもネット上で調べて攻撃を設計していた。
AIは悪意を指摘されても、別のアカウントから擁護したり、「単純なミスだった」とうそをついて編集履歴を書き換えたりして無害を装った。最終的に人間の判断で被害を阻止できたが、AISIは「成功と失敗の差はわずかだった」と分析している。
