AI開発企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AI業界や国際社会が足並みをそろえてAI開発を遅らせるべきだと訴えた。AIが人間の指示を無視する事故がすでに起きており、「半年から1年以内にネット全体がAIに乗っ取られる恐れがある脅威が高まっている」と警告している。
自己改良の開始と高まる脅威
アンソロピックは、突出したサイバー攻撃と防御の能力を持つ高性能AIモデル「クロード・ミュトス」を開発するなど、世界のAI開発をリードしてきた。
アモデイ氏は、夏ごろからAIの性能向上が劇的に加速していると指摘。AIが自らを進化させる「自己改良がすでに始まっている」からだ。
—
国際的な協調と安全対策の提案
AIは人間の意図に反してサイバー攻撃をしかける問題を起こしており、高性能AIの集団が協力すれば「半年から1年以内にネット全体を乗っ取り、数千億ドルの被害をもたらす可能性がある」と強い危機感を示した。安全対策が確保されるまで、「AIモデルの能力向上のペースを落とさなければならない」と訴えた。
対策の一つとして、自社内に独立した外部評価者を配置することを提案した。また、AI開発で激しく競り合う中国も含めた国際的な協調が必要だと主張。生物兵器開発の禁止のほか、AI公開前のリスク基準の策定の必要性も主張している。
アモデイ氏の提案には、競合他社も同調する動きが見られる。
