米人工知能（AI）開発企業アンソロピックは6日までに、AIが人間の介入なしに自律的に性能を向上させる段階に近づいていると警告し、暴走による制御不能を防ぐため、開発速度を意図的に遅らせたり一時停止したりする選択肢を世界が持つことが有益だと提言した。同社は核軍縮条約を例に挙げ、先端AI規制の国際的枠組みが整い、競合他社も同調する場合には、減速や停止に応じる用意があると表明した。
アンソロピックの主張と背景
アンソロピックは、セキュリティ上の脆弱性を発見する能力に優れた先端AI「クロード・ミュトス」で知られる。同モデルはサイバー攻撃に悪用される恐れがあるため、一般公開を見送っている。同社は、AIが自律的に学習し能力を高める「自己改善」のリスクを強調し、国際社会による事前規制の必要性を訴えた。
提言の具体的内容
- AI開発の減速や一時停止は、国際的な規制枠組みが整い、主要企業が参加する場合に限り実施する。
- 核軍縮条約のような拘束力のある合意を目指し、各国政府や企業との対話を推進する。
- クロード・ミュトスのような高リスクAIの公開は慎重に判断し、悪用防止策を優先する。
アンソロピックの動きは、AIの急速な進化に伴うリスクを認識し、業界全体で自主規制を強化する流れを後押しする可能性がある。一方で、開発競争で後れを取る懸念もあり、国際的な合意形成が課題となる。
—
