米マイクロソフトは19日、企業が使うAI（人工知能）を別のAIが監視することで、AIによる危険な行動を制限する新たな機能を発表した。指示された範囲を超えて情報を取得したり、システムを操作したりするAIの「暴走」を防げるようにする考えだ。
監視AI「ガーディアン・エージェント」の仕組み
「ガーディアン・エージェント」と呼ぶ監視用AIを使い、AIの不審な行動を検知する。AIが指示された範囲を超える操作をしようとした場合、権限を制限する機能を備え、必要に応じてAIを隔離したり、停止させたりすることもできる。
安全管理の対象を企業AIに拡大
マイクロソフトは7月にAIを活用して外部からのサイバー攻撃を防ぐシステムを発表しており、企業が利用するAI自体に安全管理の対象を広げることで、安心してAIを活用できるようにする。
セキュリティー事業を統括するハイヤッテ・ギャロ氏は声明で、「最先端のAIモデルは信用できない。監視と安全対策は継続的に実施しなければならない」と強調した。
