米国のAI開発企業アンソロピックの最高経営責任者（CEO）ダリオ・アモデイ氏は10日、AIの規制強化に関する提言を発表した。現在の急速なAI進化に制度が追いついていない現状を踏まえ、重大な安全リスクが存在する場合には、政府がAIの開発や公開を強制的に停止する権限を有すべきだと主張した。AI企業トップが政府の介入を求める提言は異例である。
「AIの指数関数的成長に関する政策」で警告
アモデイ氏は公開した論考「AIの指数関数的成長に関する政策」において、AIモデルが人間の制御を離れる可能性に警鐘を鳴らした。サイバー攻撃や生物兵器への悪用リスクに対して、企業の自主規制だけでは限界があると指摘している。
航空機モデルの提案
最先端AIモデルの規制に関して、アモデイ氏は航空機の安全基準を参考にすべきだと提案。「航空機のように技術検査を義務付け、基準を満たさない場合は公開を許可すべきではない」とし、政府に対応を求めた。
—
一方で、政府に強大な権限を与えることへの懸念も存在するが、アモデイ氏はリスクの重大性を考慮し、迅速な対応が必要だと強調している。
