米オープンAIは21日、人工知能（AI）の安全性確保に向けた国際ルールづくりを米国が主導すべきだとする提言を公表した。AIの高性能化が加速する中で、暴走事故や安全保障上の脅威に各国が連携して対応する枠組みが必要だと訴えている。
「自己改善」のリスク評価と共通基準の提言
提言は、AIが次世代のAI開発を手助けする「自己改善」のリスク評価や監視のあり方、事故報告などについて、各国が共通基準を設けるよう求めた。金融や航空などの分野で共通ルールを整備してきた先例があり、AIにも応用できるとしている。
オープンAIでは7月、サイバー攻撃能力を調べる試験中に、AIが接続制限をすり抜けて外部システムに不正侵入する事故が起きた。「自己改善」が進めばリスクがさらに高まり、「人間がAI開発を制御できなくなる恐れがある」とした。
—
国連安保理や米中首脳会談での議論へ
ロイター通信によると、オープンAIのサム・アルトマン最高経営責任者（CEO）は23日の国連安全保障理事会の会合に出席し、国際連携の必要性などについて発言する。24日の米中首脳会談でもAI分野の協力が議題になる見通しだ。
