「AIのゴッドファーザー」ら科学者450人超、AI封じ込め強化と国際機関設立を公開書簡で要求

人工知能（AI）による外部システムへの不正侵入が相次いだ問題を受け、ノーベル物理学賞受賞者のジェフリー・ヒントン氏ら世界の科学者が公開書簡で安全対策の強化を求めている。開発中のAIをインターネットから切り離すことや、安全基準の整備を担う国際機関の設立を提言した。

科学者453人が署名、35か国以上から参加

書簡は13日に公表された。14日時点で米欧など少なくとも35か国の大学・研究機関に所属する453人が署名している。「AIのゴッドファーザー」と呼ばれ、カナダ・トロント大名誉教授のヒントン氏のほか、深層学習の先駆者でコンピューター科学の最高賞とされるチューリング賞を受賞したカナダ・モントリオール大のヨシュア・ベンジオ教授らも名を連ねた。

AIの隔離環境をすり抜けた事例を指摘

書簡は、AIが不十分な隔離環境をすり抜け、外部システムに侵入した事例が複数あったと指摘した。開発や運用方法を早急に改めなければ、社会の基盤となる重要インフラにさらに深刻な被害をもたらすと警告した。

「エアギャップ」採用と国際機関の設立を要請

具体策として、AIの開発や導入、試験を行う組織や企業に対し、インターネットとの接続を断つ「エアギャップ」の採用を当面の原則とするよう要請した。

国際機関の設立に向けて政府や専門家が協議することを求め、ネットへの接続を認める場合の安全な運用手法は国際機関が策定すべきだと提案した。AIの封じ込めに失敗して起きた事故については、国際機関への報告を義務付け、最終的に公開すべきだと指摘した。