トランプ政権、AI安全性審査でオープンAIやグーグルなどと協議へ

トランプ米政権は4日、オープンAIやグーグル、アンソロピックなど最先端の人工知能（AI）開発を手がける米企業をホワイトハウスに招き、AIモデルの安全性を審査する新たな枠組みについて協議する。3日にブルームバーグ通信が報じた。

自主的な審査制度

この枠組みは、トランプ大統領が6月に出したAIのサイバーセキュリティーに関する大統領令に基づくもので、企業が自主的にAIの安全性審査を受ける仕組みだ。枠組みはまだ公表されておらず、一部の基準は非公開になるという。

背景にAI暴走への懸念

新たな枠組みを設置する背景には、AI暴走への懸念が高まっていることがある。オープンAIやアンソロピックは、開発中のAIが試験用の環境から抜け出し外部組織のシステムに侵入したと相次いで明らかにした。

—

一方で、米国勢に匹敵する性能のAIを次々と投入する中国企業への警戒感もある。AIは国家安全保障に関わる重要な分野となっており、米国の最先端AIモデルの脆弱性を中国などの外国勢力に突かれたり、技術を盗まれたりしないよう防御を強化する。