CPU大戰風雲再起！Arm將在代理式AI運算與AMD一較高下

生成式AI應用已從單純的內容生成，邁向具備自主運作能力的Agent（智能體）階段，帶動資料中心處理器市場進入新一波競爭局勢。晶片矽智財供應商Arm於22日舉辦線上媒體技術說明會，以「Rethinking CPU Performance for the Agentic AI Era」為題，發布針對Agent AI世代的系統運算架構與評估方針。

本場說明會由Arm雲端AI解決方案架構總監Ravi Malhotra主講，他指出，AI基礎設施的效能衡量準則已出現結構性改變，評估指標從過去單純計算「Token生成速度」與「每單位成本Token產出」，轉向以「Agent任務完成度與整體工作流」為核心。

AI機架與CPU機架的二分化協同體系

在現代Agent系統架構中，負責「推理與規劃」的GPU加速器與負責「工具調用、環境編排與真實世界執行」的CPU必須緊密協同。面對Agent AI的運算特徵，Arm提出將資料中心基礎設施劃分為兩大支柱的設計架構，讓運算管線能跨越不同機架分布執行。

在AI伺服器機架部分，採用專為「智能體推理與規劃（Agentic Reasoning & Planning）」設計，由高效能CPU搭配GPU或專用加速器組成。此架構專注於提升Token吞吐量，並配備大容量記憶體頻寬與儲存空間，以維護上下文數據（Context）與KV快取（KV-cache）。

至於高密度運算伺服器機架（CPU Racks），則專注在「智能體工具調用與編排（Agentic Tooling & Orchestration）」，由高密度CPU節點構成。此架構針對大規模多Agent並行執行進行優化，在吞吐量與低延遲之間取得平衡。