開発中の人工知能（ＡＩ）が人間の意図に反して「暴走」し、他のシステムにサイバー攻撃をしかける前例のない事故が米国の企業で起きた。手をこまねいていては、社会に甚大な被害をもたらすリスクがある。米国はもちろんのこと、国際社会が協力して規制の強化や規範作りを急がなければならない。
米国で発生したＡＩ暴走事故
事故は、米オープンＡＩが７月、インターネットから隔離した環境下でＡＩモデルの性能試験を行った際に発生した。このＡＩモデルが、環境の脆弱性を見つけて脱出した上、与えられた課題の答えを求めて外部企業のシステムへ不正侵入し、情報を盗み出そうとしたとみられる。
ＡＩが意思を持っているかのように勝手に悪事を働くとは、まるでＳＦの世界のようで深刻だ。米国内で規制の強化を求める声が高まっているのは当然だろう。
国際的な規制強化の動き
ＡＩの開発競争は米国と中国の２大国が最先端を走っている。これまで、トランプ米政権は中国に対する競争上の優位性を維持するため、規制強化に慎重だった。だが、トランプ大統領は６月に大統領令を出し、企業が先端ＡＩを公開する前に、政府が安全性を事前に評価することを定めた。アンソロピックのＡＩ「クロード・ミュトス」が金融システムを脅かすリスクが顕在化したためだ。
ＡＩを巡り、人の指示なしに自分で改良を繰り返す「再帰的自己改善」という理論的可能性もかねて指摘されている。技術の発展で様々なリスクが高まることが懸念される。規制強化は不可欠だ。
国際的なルール作りの必要性
ノーベル賞受賞者のデミス・ハサビス氏は、証券会社を監視する自主規制機関をモデルとするＡＩ規制機関の創設を提唱した。検討に値する構想だ。
人類には倫理上などの観点から技術の発展に歯止めをかける英知が備わっているはずだ。現に人間に対するクローン技術の応用は、尊厳や安全上の懸念から、世界保健機関（ＷＨＯ）が容認しない決議を採択し、日本など各国は法律で禁止している。
ＡＩについても国際的なルール作りを進めていくべきだ。国連はＡＩ統治のあり方に関する対話の枠組みを新設した。こうした場で議論を深めていく必要がある。
日本は２０２３年のＧ７（先進７か国）首脳会議で、国際ルール作りを推進する「広島ＡＩプロセス」を提唱し、グローバル・サウスなどに賛同の輪を広げてきた実績がある。国際的な議論を主導する役割を果たしてもらいたい。
