中国の習近平（シーチンピン）国家主席が23～25日にワシントンを訪問し、トランプ米大統領と会談する。大きなテーマとなっているのが人工知能（AI）だ。急速な進化で、人間のコントロールが及ばなくなる懸念が高まるなか、AI大国の米中が安全性の確保へどこまで歩み寄れるかが焦点となる。
AI開発ペースを巡る議論
「AIモデルの能力を向上させるペースを緩めなければならない」
米国のAI開発企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が9月上旬、AI業界や国際社会が協調してAI開発のペースを落とすべきだと呼びかけた。これに米オープンAIのサム・アルトマンCEOやスペースXのイーロン・マスクCEOら競合他社のトップも同調したことで、世界の注目を集めた。
—
暴走リスクへの懸念
AIの性能は加速度的に向上している。その過程で、米国ではオープンAIやアンソロピック、グーグルのAIが、開発試験中に他社システムにサイバー攻撃をしかける事案も相次いで発覚。人間の意図に反して「暴走」したり、悪用されたりするリスクへの懸念が高まった。
ただ、AIの最先端を走る米国企業が開発ペースを落とすのは容易ではない。中国が急速に追い上げているからだ。
今後の焦点
米国と中国のAIモデルの性能差は縮まりつつあるとされる。首脳会談で、AIの安全性確保に向けた具体的な合意が得られるかが注目される。
