英国政府は、人工知能（AI）の安全性を専門に評価・研究する「AI安全研究所」を設立すると発表した。同研究所は、AIシステムのリスクを評価し、国際的な安全基準の策定を目指す。この動きは、急速に進むAI技術の規制を国際協調で進める英国の戦略の一環だ。
研究所の役割と目的
AI安全研究所は、最先端のAIモデルを評価し、その安全性を検証する。特に、大規模言語モデルや汎用AIのリスクに焦点を当てる。同研究所は、政府、学界、産業界と連携し、AIの安全性に関する研究を推進する。
国際的なAI規制を主導
英国は、AI規制の国際的な枠組み作りを主導する意向だ。リシ・スナク首相は、「AIは大きな可能性を秘める一方、リスクも存在する。国際協調で安全なAI開発を促進する必要がある」と述べた。英国は11月に開催するAI安全サミットで、この研究所を中心に議論を進める。
—
具体的な取り組み
研究所は、AIシステムの透明性や説明可能性の向上にも取り組む。また、AIの誤用を防ぐためのガイドラインを策定する。英国政府は、AI安全研究所の設立に初期投資として1億ポンド（約180億円）を拠出する。
この発表は、AI技術の急速な進展に伴い、各国が規制強化に動く中で行われた。欧州連合（EU）はAI法案の最終調整を進めており、米国もAI規制の枠組みを検討している。
