AI 代理要的不是 GPU？AMD 機櫃塞進 32,768 個 CPU 核心

只裝 CPU 的版本供大型雲端商執行 AI 代理，企業版則把 CPU 與 GPU 放在同一機櫃。合作夥伴版本預計 11 月推出。

AI 的瓶頸，一向被認為是 GPU。AMD 在 OCP Summit 2026 公布的機櫃設計 Helion，押注的卻是另一樣東西：CPU。

為甚麼 AI 代理需要 CPU

AMD 的設計思路是：AI 代理除了生成文字，還要執行程式、呼叫工具，這部分由 CPU 負責。Helion 最多可容納 32,768 個 Zen 6 CPU 核心，採用 256 核心版本 EPYC「Venice」處理器；另可放最多 16 張 Instinct MI350P GPU，網絡頻寬最高 102Tbps。

它有兩個版本。給大型雲端商的超大規模版只裝 CPU，專門執行代理，再連接別處的模型推理設施；企業版則把代理、GPU 推理和其他工作放在同一機櫃。

AMD 高級副總裁 Dan McNamara 說：「代理式 AI 不是單一種工作負載。」個人代理、企業應用、執行程式碼，各有不同的運算需要。Helion 亦內置一個「token 路由器」，把代理對模型的請求分派到不同的前沿或開源模型。

與 Helios 的分工

AMD 今年較早推出的 Helios，負責大型 AI 訓練及推理；Helion 則負責「做事」的一端。兩個名字只差一個字母。

AMD 表示會把 Helion 規格貢獻予開放運算計劃（OCP），合作夥伴版本預計 11 月推出，名單包括 Cisco、Dell、HPE、Foxconn、Lenovo 及 Supermicro。

文：踢踢編