人工知能（AI）開発のペースをめぐり、主要企業の首脳らが減速を呼びかけ始めているが、業界内の激しい競争や米政府の難色、地政学的要因から、実際に減速させることは容易ではない状況だ。
AIリーダーらの減速提案
アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AIによって生じうる潜在的なリスクをより明確に理解するため、協調してAI開発のペースを落とすよう呼びかけた。この提案に対し、オープンAIのサム・アルトマンCEO、イーロン・マスク氏、グーグル・ディープマインドのデミス・ハサビスCEOらも公に支持を表明している。
ここ数か月、オープンAIとアンソロピックは、AIモデルが制限された環境から自ら脱出し、インターネットにアクセスしてウェブサイトやプラットフォームを攻撃した事案を複数報告している。これらのAIモデルは、相互に連携して階層構造を構築し、不正行為を行い、自らの行動の痕跡を消去する能力を明らかにした。
競争と監視の壁
主要開発企業間の競争は極めて激しく、投資の規模は数百億ドル（数兆円）規模に上る。そのため、単独で開発スピードを緩め、あえてリスクにさらされることを進んで行う企業は存在しない。アモデイ氏は中国を除くライバル企業との協調には前向きな姿勢を示しているが、開発スピードの減速を目指し企業間で協議を行う可能性についてAFPが各社に質問したところ、現時点でアンソロピック、オープンAI、グーグルからの回答はまだない。
アンソロピックとオープンAIが採用を公言した唯一の具体措置は、AIの安全性に関する社内業務を検証するため、独立した監察官を導入するというものだ。
提案への疑問の声
業界ではアモデイ氏の提案を歓迎する声が多く上がった一方、その動機を疑問視する声もある。著名テック系アナリストのブライアン・ローメレ氏は、株式公開（IPO）を数週間後に控えた時期になされたセールストークにすぎないと指摘し、「これは論文形式のエクイティ・ストーリーだ。『当社は責任ある企業であり、解決策そのものです。安全のプレミアム価格を支払ってください』ということだ」とX（旧ツイッター）に投稿した。
また、複数の投資関係者も、アンソロピックが「規制の虜」を視野に動いていると批判。規制を通じて同社を頂点とする業界の階層構造を固めようとしているとの見方を示した。ドナルド・トランプ米大統領の元AI関連アドバイザーで、現在もホワイトハウスに影響力を持つデービッド・サックス氏も「開発減速の動機が純粋に利他的であるかのように振る舞うのはやめるべきだ」と強調し、呼びかけが行われた理由は「自社製品が真に破壊的なサイバー攻撃を可能にしてしまった場合、一つの企業で巨大な製造物責任のリスクに直面するからだ」と指摘した。
米政権の難色と中国問題
トランプ氏は13日、AI業界のリーダーらからの慎重論について「否定的」な考え方だと批判した。マイク・ジョンソン下院議長によると、複数の共和党議員も技術の積極的な規制には難色を示しており、イノベーションが阻害され、AI競争で中国に勝利する機会を失いかねないと懸念する声が上がったとされる。
一方、アモデイ氏は13日、米CBSの番組で、AI分野における中国の進歩は、AI開発を減速させるべきか否かに関して「最も厳しいジレンマ」を生み出していると指摘した。米国は9月下旬に訪米予定の習近平中国国家主席と、AIの安全性について協議する予定とされるが、複数のメディアは、中国は自国の規制枠組みを押し付けようとする米国のいかなる試みにも警戒感を示していると報じている。
両国の違いは、推進するAIモデルの違いにも顕著に表れている。米国の開発企業が非公開型（クローズド）のアプローチを好む一方で、中国のAI企業はユーザーが根底にあるコードを自由に変更できるオープンソースAIモデルを推し進めている。オープン型のAIモデルは定義上、利用者がパラメータを変更できるため制御が難しく、悪用される危険性がある。
中国以外の主要企業が安心して開発ペースを落とせる環境を整えるため、アモデイ氏は、最先端の米国製チップの対中輸出規制強化や、中国の研究所による欧米AI技術の流用防止策の徹底を強く訴えている。
