ノーベル賞受賞者を含む著名な科学者やAI研究者らが、人工知能（AI）の急速な進化に伴う潜在的な危険性について警告を発している。彼らは、AIが年内にも人間並みの知能（AGI）を達成する可能性があると指摘し、国際的な規制の必要性を強く訴えている。
AIの脅威に対する警告
カナダのモントリオールで開催されたAI安全サミットで、ノーベル賞受賞者のジェフリー・ヒントン氏（トロント大学名誉教授）は、「AIが人間の知能を超える日は、私が以前考えていたよりもはるかに近い。おそらく5年から20年ではなく、もっと早い、年内にも起こり得る」と述べた。ヒントン氏は、ディープラーニングの先駆者として知られ、AIの危険性について繰り返し警告を行っている。
また、同じくノーベル賞受賞者のヨシュア・ベンジオ氏（モントリオール大学教授）は、「AIの開発競争は、安全対策が後回しにされる危険な状況を生み出している。我々は、AIシステムが人間の制御を超える前に、強力な規制枠組みを構築する必要がある」と強調した。
AGI達成の可能性とリスク
サミットでは、参加者の多くが、汎用人工知能（AGI）の実現が目前に迫っているとの見解を示した。AGIとは、人間と同等またはそれ以上の知能を持ち、幅広いタスクを遂行できるAIを指す。専門家らは、AGIの実現がもたらす恩恵として、医療や気候変動対策などの分野での革新を挙げる一方で、失業の増大、悪用のリスク、人間の制御不能といった深刻な危険性も指摘している。
スタンフォード大学のAI研究者であるエリック・ブリニョルフソン教授は、「AGIが実現すれば、経済や社会に革命的な変化がもたらされるだろう。しかし、その影響を適切に管理できなければ、壊滅的な結果を招く可能性もある」と述べた。
規制の必要性と国際協調
サミットでは、AIの開発と利用を規制する国際的な枠組みの構築が急務であるとの認識で一致した。ヒントン氏は、「AIの研究開発には、原子力や生物兵器と同様の厳格な規制が必要だ。各国政府は、AIの安全性を確保するための国際協力に積極的に取り組むべきだ」と主張した。
一方で、規制の動きは遅々として進んでいない。欧州連合（EU）はAI規制法の制定を進めているが、米国や中国など主要国では、包括的な規制はまだ整備されていない。ベンジオ氏は、「規制が遅れれば遅れるほど、リスクは高まる。今こそ行動を起こす時だ」と警鐘を鳴らした。
サミットの最終日には、参加者らがAIの安全性に関する共同声明を発表。声明では、AGIの開発における透明性の確保、倫理的原則の遵守、国際的な監視機関の設立などが提言されている。
専門家の反応と今後の展望
AI安全サミットの呼びかけ人であるマックス・テグマーク氏（マサチューセッツ工科大学教授）は、「今回のサミットは、AIのリスクについて認識を共有する重要な一歩となった。しかし、具体的な行動に移すためには、さらなる議論と協力が必要だ」と述べた。
また、参加者の一人であるAI研究者のスチュアート・ラッセル氏（カリフォルニア大学バークレー校教授）は、「AIの安全性は、人類全体が直面する最も重要な課題の一つだ。我々は、AIの恩恵を享受しつつ、そのリスクを最小限に抑えるための知恵を絞らなければならない」と語った。
今後のAI開発の行方と、それに伴う規制の動きが注目される。専門家らは、国際社会が連携してAIの安全性を確保するための枠組みを構築することが不可欠だと強調している。
