Advanced Micro Devices（AMD）は7月22日から23日まで（米国太平洋時間）、サンフランシスコのMetreonとMoscone Westで自社主催のイベント「AMD AI Advancing 2026」を開催した。テーマの1つは「AIワークロードにおけるCPUの復権」だった。
そもそもNVIDIAがAI時代に急成長して注目を集めた理由の1つには、Transformerに始まるAIモデルの深層学習の過程で、膨大なパラメーターの行列計算（積和演算）にGPUの並列処理が最適だったことがある。さらに、この計算で重要となるライブラリーをCUDAプラットフォーム上で構築することに成功した点もプラスに働いた。
ただ現在はAIの利用が広がり、ワークロードの主役は「モデルの学習（Training）」から「モデル利用のための推論（Inference）」に移行しつつある。
AIエージェントが変える計算リソースの比重
AIのワークフローが学習中心から推論中心へ移ってきているのは前述の通りだ。AMDのリサ・スーCEOは「『Agentic AI』こそが、このトレンドを加速させている。なおかつ、これはAIの進化における大きなステップであり、この動きは2026年に入ってから5～6カ月で急速に加速し始めた」と語る。
重要なのは、AIエージェントの広がりが業界トレンドに「学習から推論への変化」をもたらしただけでなく、従来とは異なるコンピューティングパワーを要求し始めた点にある。
まず「学習」については分かりやすい。GPU上でひたすら並列処理で行列演算を行わせるからだ。もう一方の「推論」は、学習済みモデルに対してプロンプトを与え、「トークン化→エンコード→デコード」の順で出力結果を返す。
トークン化にはいわゆる「スカラー演算器（Scalar Unit）」が使われるが、これはCPU本体で処理されることが多い。エンコードとデコードの処理は行列演算となるため、「ベクトル演算器（Vector Unit）」と「テンソル演算器（Tensor Unit）」が担うことになる。これらは基本的にGPUまたはNPUの領域だ。
つまりCPUは推論の前処理に当たる部分を担う「指示役」で、GPUやNPUは「実行役」を務めている。少し見方を変えると、従来のAI処理におけるCPUは、データや指示を流し込むだけの「中継役」に過ぎなかった。
オーケストレーターの登場でCPUの「性能」が問われる
ところがAIエージェントの時代になると、この構造に変化が生じる。チャットボットであれば「質問に対して回答する」という一方向の処理で問題なかった。しかしAIエージェントは一度「目標」を与えると、解決するまで何度も再帰処理を続ける。ツールを呼び出したり、必要な情報を検索したり、あるいはMCP（Model Context Protocol）などを通じてエージェント同士で連携したりする。
これは1つのタスクに対して複数ステップの推論処理が発生することを意味する。この複雑な問題解決のために、実質的な「中継役」であるCPUに求められるニーズ（性能）がさらに高まるという流れだ。
中継を行うAIエージェントは「オーケストレーター（Orchestrator）」などと呼ばれるが、GPUを用いる推論処理は、AIエージェント時代にはあくまで「タスク」の一部となる。チャットボット時代ならCPUとGPUの使用比率は「1対4」だったものが、2026年以降のAIエージェント時代には「1対1」程度、つまりCPUとGPUが同じ比重で使われるというのがAMDの見立てだ。
「分岐処理」の増加もCPUの「復権」につながる
AIエージェント時代にCPUの役割が重要になるもう1つの理由に、「分岐処理」の多さがある。
オーケストレーターがタスクを分割し、適切なAIモデルに処理を振り分けることを「ルーティング（Routing）」と呼ぶ。この過程では、大規模言語モデル（LLM）が参照するデータベース「RAG（Retrieval Augmented Generation）」や各種ツールを呼び出す作業が発生する。
その際、計算処理のために「Python」などのプログラムコードを生成するケースがある。生成されたコードによって多くの分岐処理が発生し、全体の処理が止まってしまうこともある。ゆえに、元から分岐処理が得意なCPUの方が、GPUよりも対応しやすいのだ。
「トラフィック特性」の変化も見逃せない
今回のイベントの「主役」は、AIデータセンター向けラックサーバー「AMD Helios」だが、ハイパースケーラーのような大規模データセンターの世界では、分岐処理が同時に走ることになるため、よりCPUの負荷が大きくなる。そしてさらに重要なのがトラフィック特性だ。
チャットボットでは指示を流し込むのが「人間」なので、必ずここがボトルネックとなり、処理がいったん中断する。仮にAIデータセンターのコンピューティングリソースを使っていたとしても、その需要は細切れ（Bursty）で、一時的にトラフィックが急増しても「回答」を返した瞬間にいったん処理が停止する。
ところがAIエージェント時代になるとこの特性が変化し、処理が常に一定の上限まで張り付くことになる（Steady State）。これは、人間が関与するのが最初の指示だけで、残りはAIエージェントがひたすら処理を繰り返すことになるため、実質的に「隙間」がなくなるからだ。処理は全て「マシンスピード」で行われる。
これを滞りなく行うために求められるのは、GPUよりもむしろCPUの実力だ。ある意味で、AIエージェント時代はAIデータセンターの「真の実力」が初めて問われることになるかもしれない。
