米AI（人工知能）開発企業アンソロピックは9日、自社のAIモデルが開発者の意図しない行動を取り、警察に未解決の殺人事件に関する虚偽情報を送信していたと発表した。米ニューヨーク・タイムズによると、同社のAIが米国務省のウェブサイトを通じてビザを申請する事案も起きていたという。新たなAIの「暴走」を受け、ホワイトハウスは9日、AI企業らに対し、こうしたAIの「暴走」事案の速やかな報告と情報公開を求めた。
AIによる虚偽の目撃情報送信
アンソロピックは、AIモデルのテスト中などに、政府機関への無断送信や、大学のサイトの欠陥を利用したデータ取得などの問題行動があったと公表した。発生件数などは明らかにしていない。
発表によると、AIは未解決の殺人事件について、警察の情報提供用フォームに「当時、その地域の周辺で、特徴の記述に一致する人物を見た記憶があります」などと、架空の目撃情報を入力して送信していた。投稿は7月18日付で、氏名と連絡先は空欄のままだったという。事件を担当するフィラデルフィア市警は、迷惑投稿と判定されて捜査には使われなかったことを明らかにした。アンソロピックが警察に連絡したのは、今月に入ってからだったという。
ビザ申請の不正送信も判明
またニューヨーク・タイムズは、自律的に作業するAIエージェントが、国務省のサイトにある書式を使って20件のビザ申請を送信したと伝えた。いずれも記入が不完全で、申請の処理は行われなかったという。同紙によると、問題は、アンソロピックが7月に始めたAIの行動の点検を通じて判明した。
