アンソロピックCEO、AI開発の速度抑制を訴え暴走リスクに警鐘

米AI開発企業アンソロピックのアモデイCEOは、能力向上の速度を落とすべきだと論考で訴えた。安全性への懸念から、外部評価機関の活用や各国政府との協調など3つの対策を提言。オープンAIのアルトマンCEOやマスク氏も支持を表明した。

日本ニュース 2026/09/14 01:15

米AI開発企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日に公表した論考で、「能力を高める速度を落とさなければならない」と訴えた。今年夏頃から開発ペースが大幅に速まっているとし、人間による制御が追いつかなくなることなど安全性への懸念を指摘した。

AIの暴走事故と将来のリスク

AIモデルの開発を巡っては、オープンAIのAIが7月、試験中にインターネットへの接続制限を破り、他社のシステムに侵入する暴走事故が起きた。複数のAIが連携し、指示を受けていない相手に攻撃を仕掛けていた。

アモデイ氏は、より高性能なAIが暴走すれば、6～12か月後にはネット全体を乗っ取る恐れがあると警告している。

—

安全性を確保するための対策として、〈1〉外部の評価機関に社員並みのアクセス権を与えて安全対策を検証する〈2〉民主主義国のAI企業が安全基準や開発速度で協調する〈3〉中国を含む各国政府にも協調を広げる――ことを挙げた。

アモデイ氏の論考を受け、同業他社のトップらも相次いで開発の抑制を支持する声が出ている。米オープンAIのサム・アルトマンCEOは、Xに「ダリオに同意する」と投稿し、外部の評価者に社員並みのアクセス権を与える案について「我々も実施する」と表明した。

AI開発企業を傘下に持つ米スペースXのイーロン・マスクCEOも「ダリオは正しい」と理解を示した。