AnthropicのAI研究者が、AIが10年以内に人類を滅ぼす可能性について「10％超」とする見方を示し、AI開発のリスクを巡る議論が広がっている。背景にあるのが、AIがAI自身を改善する「再帰的な自己改善」だ。高度なAIが自ら能力を向上させ続けた場合、人間による制御が及ばなくなる可能性があるという。
Malwarebytesが9月10日(米国時間)に公開した記事「Will AI kill us all within the next decade?」で、AI研究者らの発言をもとに将来のAIリスクについて伝えた。現行のAIモデルのリスクはさして高くないが、AIがAIを改善する「再帰的な自己改善」を繰り返すようになると、人間による制御がおよばなくなる可能性があるという。
AIが10年以内に人類を滅ぼす可能性「10％超」
OpenAIとAnthropicでAI研究に携わり、Anthropicを退職したAI研究者のJacob Coxon氏は、「AI開発者たちは10年以内にAIが人類を滅ぼす可能性について真剣に考えている」と投稿。Anthropicのアライメントサイエンス責任者を務めるEvan Hubinger氏もこの意見に同意し、個人的には10年以内に10%以上の確率で起こり得ると指摘した。
さらにHubinger氏は、再帰的な自己改善によって超知能が出現することを懸念し、その進展は研究者たちが考えていたよりも速いとの見方を示した。ただし、これらは確定した事実や確立された予測ではなく、研究者によるリスク評価である点には注意が必要だ。
AIの急速な進化、安全対策は追いつくのか
Malwarebytesの記者は、これら極端な予測が研究者自身から発信されたことで、AI開発に詳しくない人々の感情を揺さぶった可能性を指摘。これら主張を無条件に信じるのではなく、慎重に評価すべきと訴えた。
また、AI開発企業や政府が進化速度を調整するには合理的な安全策が必要として、次の取り組みを提案した。
- 独立したテスト機関の設立
- リスクの高い自律動作への規制
- AI開発に携わる人物の透明性確保
- AIシステムによる損害に対し、責任を明確化
AI研究の現場では、すでに予期しない不正アクセスなどの問題が起きている。OpenAIのHugging Face侵入事案やAnthropicの不正アクセス事案などが明らかになっており、AIエージェントの高度化が進めば、こうしたリスクがさらに高まる可能性がある。AIサービスを利用する側でも、詐欺やプライバシー侵害などAIを悪用する問題が生じており、ガードレールなどによる対策が進められているものの、完全な防止には至っていない。
そのような状況の中でもAI開発は加速している。今回研究者が示した極端な予測を無条件に受け入れる必要はないが、安全上の警告を軽視することも適切ではない。将来、さらに高度化したAIの悪用や制御を逸脱する事態を防ぐためにも、企業、政府、研究者が協力し、AI開発の速度に見合った安全策を整備することが望まれる。
