暴走するAI、安全確保へ国際協調体制の構築を急げ

人工知能（AI）が人間の意図に反して暴走する深刻な事態が相次いでいる。対策を急がねばならない。

業界全体での開発減速を提案

米アンソロピックの最高経営責任者（CEO）は、AIの性能が急激に向上し暴走などのリスクが高まっているため、業界全体で開発を減速すべきだと提案した。AIが勝手にサイバー攻撃を仕掛けたり、生物兵器の開発に悪用されたりする事例が起きており、放置すればインターネット全体を乗っ取る能力を持つ可能性があると警告した。極めて憂慮すべき事態である。

米オープンAIも開発の減速に同意した。世界の最先端を走る両社の懸念を重く受け止めるべきだ。AIがさらに自律的に進化し制御不能になれば、人類が支配されかねない。

自主規制の限界と国際協調の必要性

これを受け、米国の主要6社は自主規制によって安全対策を講じることでトランプ大統領と合意した。人間が意図しないサイバー攻撃を行わないよう監視する強固な管理体制を社内に設けるという。自主規制の導入は一歩前進だが、法的拘束力はなく、どこまで機能するかが問われる。

暴走の恐れは以前から指摘されていた。リスクへの対応が不十分だった企業側の責任は大きい。投資の重点を安全性の向上に転換すべきである。

米中は首脳会談でAIのリスクに関する対話の枠組みを設けることで合意したが、具体策は持ち越した。トランプ氏は開発を加速し覇権争いに勝つため、規制には消極的だ。急追する中国はAIの国際ルール作りを主導したい思惑がうかがえる。AIは経済や軍事などあらゆる分野の競争力を決定付けるため、協議の行方は見通せない。

日本への期待と今後の課題

だが、野放図に開発することは許されない。人類の未来を左右する重大な局面だ。米中はAIの脅威と向き合い、実効性のある対策を見いだす責任がある。安全対策の枠組みは国際協調によって構築する必要がある。

AIサミットの自国開催を提唱する日本は、その形成に貢献すべきだ。日本の国力を保つには、安全を保ちつつAIを積極的に開発することが不可欠だ。高市早苗首相は1日、高性能AIの社会への導入を加速させる行動計画を年内に策定すると表明した。普及と活用も着実に進めてもらいたい。