AMD 董事長暨執行長蘇姿丰今年 5 月 21 日在 COMPUTEX 開展前來台時宣布,AMD 看中台灣 AI 供應鏈的完整性,將在台灣產業體系投資超過 100 億美元(約新台幣 3,000 億元),
加深與台廠在先進封裝、載板與機櫃級系統等領域的合作。到了 10 月 6 日,她再度旋風訪台,一天內拜會鴻海、廣達、宏碁、華碩與台積電。這趟行程的背景是,AMD 首款 AI 機櫃 Helios 已在 7 月宣布全面量產,並按計畫從第三季開始出貨了!
這款產品直接對標輝達(NVIDIA)的 Vera Rubin NVL72 系統,看來雙方的 AI 機櫃競爭正式開打。
在 Helios 問世之前,AMD 主要販售 GPU 與 CPU 晶片,像是 Instinct MI300X 與 EPYC 處理器。
機櫃的電源、液冷、機箱與高速網路架構,大多由美超微、戴爾、緯創、緯穎等系統廠自行設計組裝。
但 Helios 是由 AMD 主導設計的整座機櫃,這等於跳脫了只賣晶片的傳統模式,直接切入整座 AI 機櫃的市場,超酷的!
從規格來看,單一機櫃由 18 個運算托盤組成,整合了 72 顆 Instinct MI455X GPU、採用 Zen 6 架構的第六代 EPYC「Venice」處理器、
ROCm 軟體與 Pensando Vulcano AI 網路卡。它的定位是大規模推論、尖端模型訓練與微調,也瞄準主權 AI 與代理式 AI。
其中,Venice 系列最高配備 256 個高效能核心,約是輝達 Vera CPU(88 核心)的 2.9 倍;不過 Helios 運算托盤實際搭配的是 96 核心版本。AI 代理需要大量工作排程與任務調度,CPU 夠力,
就能減少 GPU 閒置等待的時間。
與 Vera Rubin 相比,每顆 MI455X 配備 432GB HBM4 記憶體,比 Rubin GPU 的 288GB 多出 50%,整座機櫃合計約 31TB,這對長上下文的即時推論更有利。
此外,Helios 採用 OCP 的 Open Rack Wide 機櫃規格,機櫃內以 UALink over Ethernet 串連 GPU,跨機櫃則使用符合超級乙太網路聯盟(UEC)規範的標準乙太網路,雲端業者比較不用被單一供應商綁住。
相對地,輝達的強項是 NVLink 高速互連與成熟的 CUDA 生態系;AMD 的 ROCm 雖然持續進步,仍需要時間在大規模部署中證明自己。
為什麼蘇姿丰這麼看重 CPU?她在今年 5 月的財報會議上指出,過去 CPU 多半只擔任 GPU 的主控節點,CPU 與 GPU 大約是 1 比 4 或 1 比 8 的配置;
進入代理式 AI 時代,這個比例正往 1 比 1 靠攏,甚至可能出現 CPU 比 GPU 還多的情況。而伺服器 CPU,正是 AMD 的強項。
價格方面,《理財周刊》估計一座 Helios 約 500 萬至 550 萬美元,Vera Rubin 約 350 萬至 400 萬美元,Helios 貴了約四成。這是媒體的市場估算,並非兩家公司公布的官方售價。
AMD 的說法是,要看總持有成本(TCO)和每個 token 的成本。根據 AMD 7 月公布的自家估算,以 Kimi K2 Thinking 模型推論來算,Helios 每花一美元能產出的 token,最多比 Vera Rubin NVL72 多約 30%。
不過這是 AMD 的內部推估,還有待第三方實測驗證。
客戶方面,蘇姿丰在 7 月的 Advancing AI 大會上宣布,Helios 已獲 OpenAI、Meta、Anthropic、微軟與甲骨文等業者採用。
對台灣供應鏈來說,這波機櫃戰也是大商機。AMD 新一代 GPU 與 Venice 處理器採用台積電 2 奈米等先進製程;封裝方面,AMD 與日月光、矽品合作開發 2.5D EFB 橋接互連技術,
並與力成驗證面板級 EFB 封裝;系統端則有緯穎、緯創、英業達等 ODM 協助打造 Helios 系統。
蘇姿丰 10 月訪台時也強調,AMD 會維持無晶圓廠的輕資產模式,與台廠的合作已從過去規劃 1 到 2 年,拉長到未來 3 到 5 年的聯合規劃,並會在 100 億美元的基礎上持續擴大在台投資。
AI 機櫃的戰場才剛開始,輝達有 CUDA 護城河,AMD 則押寶開放架構與更大的記憶體。接下來幾季 Helios 的實際出貨量與客戶評價,會是這場對決的關鍵。