米国を中心にAI業界で議論となっているのが「AI規制」だ。従前から存在する議論であり、Anthropicのダリオ・アモデイCEOは2026年9月、フロンティアモデル開発の減速を促すエッセイ「We Must Pace the Frontier」（最先端AIの開発ペースを管理せよ）を発表した。OpenAIのサム・アルトマンCEO、SpaceXのイーロン・マスクCEOなどが賛同する一方、ドナルド・トランプ米大統領はアモデイ氏の考えに否定的な姿勢を示している。
Dreamforce 2026で両者の主張が激突
Salesforceが2026年9月15〜17日（現地時間）に米サンフランシスコで開催した「Dreamforce 2026」の基調講演でも、まさに両者の立場の声が聞かれた。登壇したのは、アモデイ氏本人とNVIDIAのジェンスン・ファンCEOだ。
Dreamforceのメインの基調講演は独自のスタイルで知られる。円形のステージとそれを囲む客席があり、放射状に広がる通路をSalesforceの会長兼CEOであるマーク・ベニオフ氏など幹部が歩きながらスピーチをするというフォーマットだ。ベニオフ氏は客席に座っているゲストに近づき、トークショー風の短い対談をする。
アモデイCEO、安全なAI実現への責任を強調
この日も同じフォーマットでベニオフ氏は基調講演を進めた。最初のゲストは、Anthropicのアモデイ氏。SalesforceとAnthropicは戦略的提携の関係にあり、2026年8月末には「Claudeforce」を発表した。Anthropicの「Claude」を組み込んだ提携およびソリューションブランドで、具体的には「Salesforce in Claude」を指す。37種類の事前構築済みビジネススキルを搭載し、Claudeから直接Salesforceのデータ、ワークフロー、「Slack」などを活用できる。
ベニオフ氏がまず先のエッセイについて尋ねると、アモデイ氏は自動車メーカーの比喩を使って答えた。もし同業他社がブレーキの欠陥のような安全上の問題を起こしたらどうするか。自社の安全記録が完璧だったとしても、相手を攻撃するのではなく自分の記録を省みるべきだという趣旨だ。「責任ある対応の仕方は、まず自分たち自身の記録を振り返ることだ。大きな事故はなかったかもしれないが、完璧ではなかったはずだ」と述べた。
AI業界でも、OpenAIのAIエージェントがHugging Faceを乗っ取ったインシデント（OAI-HF）をはじめ、安全上の問題が起き始めている。「いったんすべてを見直そう。われわれは常に改善できる」とアモデイ氏。「実践、改善、透明性への取り組みを再確認し、安全への投資をさらに増やそう」と続けた。
アモデイ氏は続けて、エッセイで提示した3段階を改めて説明した。まずは各社が透明性や安全性への投資とコミットをし、次に業界全体で基準を策定、さらに国際的な枠組みに発展させるというものだ。
なお、エッセイではこの3段階がより具体的に描かれている。第1段階は、外部評価チームに従業員並みのアクセス権を与え、安全対策の順序やアラインメントを継続的に検証させる「組み込み型の第三者評価者」の導入で、Anthropicが単独で先行するとした。第2段階は、米国をはじめ民主主義諸国の主要AI企業が共通の安全基準や開発ペースの上限で足並みをそろえる「民主主義諸国内での協調」で、規制を軸にしつつ、対中輸出規制など優位性維持の措置も含む。第3段階は、中国など権威主義諸国との協調を目指す「国際的な協調」で、危険用途の禁止からAI開発ペース全体の制限まで、難易度別に4段階の合意水準を示している。アモデイ氏は、これを厳密な順序ではなく「目指すべきことを考える枠組み」として提示している。
アモデイ氏は、Anthropicは第1段階に既にコミットしているとし、「それ以降については業界他社と対話を進めていく予定だ。まず自分たちが見本を示し、誰もが常に改善できることを伝えられる。これが業界の前進につながる導き方だと信じている」と述べた。
アモデイ氏は、AIの進歩のペースを「この10年の最大の驚き」に挙げた。「技術面だけではない。経済面のペースにも驚いている」と話す。
「われわれはスケーリング則の定式化に取り組んできた。スケーリング則とは投入する計算量が多いほどAIモデルは賢くなる、というものだ。だから、これらのモデルがどれほど高性能になるかについては、ある程度予測があった」とアモデイ氏。だが、「それがこれほど急速な企業成長につながるということは全く予想できなかった。われわれの業界が一斉に取り組んでいる素晴らしいプロダクトが、急速に世界のあらゆる出来事の中心になっていった」と語る。
Anthropicが提唱した、AIモデルと外部のツールやデータをつなぐプロトコル「MCP」（Model Context Protocol）や「Claude Skills」「Claude Cowork」などの技術を挙げ、「人々は使い始めたばかりだが、経済的価値が非常に大きいため、驚くほど高速に採用されている」とアモデイ氏は述べ、「ビジネスの世界でこれほどのペースが可能であることに、私は驚かされた」と続けた。
NVIDIAが提案するAIカンパニー実現のための3つの要素
2時間近くの基調講演の最後にベニオフ氏が対談したのが、NVIDIAのファン氏だ。ファン氏はベニオフ氏とともに会場を歩きながら、見解を語った。
SalesforceとNVIDIAはイベント中、CRMに特化した推論モデル「Koa」を発表した。Koaは、NVIDIAのAIモデル「Nemotron」を土台に、SalesforceのCRMに関する合成データセットを使って追加学習したものだ。
ベニオフ氏がGPU事業の成功をたたえると、ファン氏はAIを電気、インターネットに続く基盤と位置付けながら、「AIが地球規模のインフラになることで、われわれはあらゆることを知り、実行できるようになる」と語る。
だがNVIDIAが提供する技術はGPUだけではない。「あらゆる企業や国がAIカンパニーになる」というビジョンの下、「GPUカンパニーから、AIファクトリーを実現するフルスタックのAIインフラカンパニーに進化させている」とファン氏。
ファン氏によると、AIファクトリーは企業のデータをインテリジェンスに変える。NVIDIAはさらにその先にある「エージェンティックエンタープライズ」（AIエージェントを業務に組み込んだ企業）への進化を支援するために、フロンティアAIモデルを開発することにしたという。これがKoaの土台となったNemotronだ。この他にも、ワールドモデル「Cosmos」など5種類のフロンティアモデルを持つという。「全てオープンだ」とファン氏。この点は、主力モデルをクローズドで提供するAnthropicやOpenAIとは対照的で、オープンモデル路線とクローズドモデル路線では意見が分かれることが多い。
そのようなフロンティアモデル開発に加えて、NVIDIAが取り組んでいるのが「エージェンティックハーネスシステム」だ。「モデルが完全にオープンなので、その中に自社のモデルを組み込み、その周辺にハーネスやランタイムを構築することができる」とファン氏。
フロンティアモデルが1つ目、ハーネスが2つ目とすれば、3つ目にファン氏が挙げたのが「OpenShell」だ。「OpenShellは世界初の安全なサンドボックスであると同時に、安全なランタイムでもある。これにより、企業全体にわたってエージェントを安全かつ大規模に展開できる」とファン氏。この3つにより、「あらゆる企業をAIカンパニーに変えることができる」という。
「安全性はエンジニアリングの問題」減速論を退けるファン氏の論理
アモデイ氏が提唱し、OpenAIのアルトマン氏らも賛同した開発ペースの管理という提案に対し、ファン氏は、業界の合意や規制によって開発を減速させる必要はないとの立場をとる。
クローズドモデル路線が掲げる安全性への懸念については、「安全性は最優先事項」と認めつつも、ファン氏は「安全性はエンジニアリングの問題」と位置付ける。
「極論的には、われわれが開発しているのはソフトウェアでありコンピューティングシステムだ。複雑なシステムをテストするためのテスト環境を構築すること、製品をテストすることが重要だ。製品やサービスの安全性に確信が持てないのであれば、それをリリースすべきではない」とファン氏は述べた。
「法律も規制も必要ない。イノベーションのスピードと製品の安全性は二者択一ではなく、両方を同時に実現できる。企業はできる限り早く進むと決め、製品が安全ではないと感じたいったん停止してやり直すだけだ」と述べた。
ファン氏はオープンモデルとクローズドモデルは両立するという考えを繰り返し強調した。
「クローズドモデルの利用は今後も継続するが、同時にすべての企業が自社専用のカスタマイズされたプライベートモデルを構築できると考えている」と述べた。
ファン氏は、トークン数が急増しているトレンドを挙げ、「クローズドモデルは驚くほど好調で、この1年で消費トークン数が25倍になった。一方で、企業の利用におけるオープンモデルの割合も30%から現在70%まで拡大した」と紹介した。「企業はクローズドモデルの採用を指数関数的に進めつつ、同時に自社専用のカスタムAIの構築にも動いている」と分析した。
「AIがもたらす生産性の向上は無限だ」とファン氏は述べ、「あらゆるソフトウェア企業がAIカンパニーになり、大企業はエージェンティックエンタープライズに進化する。この流れに取り残されることは大きなリスクだ」と続けた。
AI開発は減速か加速か。米政権内では、中国との競争を考慮して加速すべきという意見が強い。大統領府科学技術諮問委員会（PCAST）の共同議長を務めるデビッド・サックス氏は、AnthropicやOpenAIは自社の開発ペースを自由に決めることができるとして、政府による規制は不要だと「X」に投稿している。
