【冰質美股】20240608(六)-AMD蘇姿丰開幕演講推出Zen5

作者：納蘭雪敏

AMD的CEO蘇姿丰在2024年6月3日COMPUTEX展上發表Zen 5架構晶片Ryzen 9 9950X與第3代AI處理器Ryzen AI 9 HX 370，Ryzen 9 9950X為桌上型電腦9000系列的CPU，IPC（Instructions Per Cycle,每時鐘週期）比前一代R9 7950X提升16％，預計2024年7月上市。

第3代AI處理器Ryzen AI 9 HX 370效能是微軟Copilot PC系統中最強的NPU處理器，但沒有提到Server專用的Zen5C和3D V-Cache技術的X3D版本，之前3月底的時候Zen5C當時IPC會比Zen4快40%，

AMD新AI PC的計算性能達到50 tera operations per second (TOPS)，比最近高通在Microsoft的45 TOPS效能更好， Strix Point的Ryzen AI 300 系列整合 Zen 5 處理器架構、XDNA 2 NPU 與 RDNA 3.5 GPU 架構。

看下圖，這次推出的就是2024年度紅色的部分，定位是在Premium Mobile，明年會推更高端的Mobile系列，和9000X3D，HEDT(高端桌面處理器)，APU部分是整合CPU與GPU的系列，G是帶有顯卡，F不帶顯卡，APU一直是ITX小主機專用的市場，印象中上一代APU已經是2001年的5000G系列，暌違將近3年才推出，這次還帶NPU AI輔助，雖然仍然使用Zen4和AM5 Socket，不是Ryzen 9000的Zen5，這也是今年2024年CES才推出的，TDP在65W而已。

如我2023年在深度文就有準確預測邊緣運算崛起，AMD現在在AI Server市場幾乎全面敗下陣來，只能靠邊緣運算AI PI搶佔市場，拉來ASUS站台，華碩包括Vivobook、ProArt、Zenbook、ZEPHYRUS和TUF Gaming全系列產品都將採用超微第3代AMD Ryzen AI，宏碁、微星、HP和聯想這全部都是邊緣運算。

COMPUTEX這次重量級Nvidia、AMD、INTEL、QCOM、Supermicro、ARM、NXP的CEO全部都來了，台廠就更不要講了。

Mi325只增加HBM（高帶寬記憶體）的容量，實際頻寬增加30%，從5.3 TB/s提升到接近7 TB/s，但不如NVIDIA的B100的8 TB/s，Token成本（指單位成本）很難降低，288GB的記憶體對於Training(訓練)和Fine-Tuning(微調)有幫助，但在推理（inferencing）方面效果有限，Training(訓練)是指從大量數據中學習模型參數的過程。這需要大量的計算資源和記憶體，Fine-Tuning(微調)是指在預訓練模型的基礎上，使用特定任務的數據進行進一步的訓練。這也需要大量的記憶體，LLM的開始都是訓練，訓練完成後就可以進行微調，在已經訓練好的基礎上針對特定任務進行調整，最後是inferencing，inferencing不需要那麼記憶體升級，反而是著重在GPU、TPU、ASIC。

GPU的Server在Network Interface Card(NIC，網卡)價格雖然只有GPU的1/10，這一部分Nvidia與AVGO已經佔據大部分市場，MRVL狀況不妙，網卡數量是GPU三倍以上，AMD之前主要靠Xilinx來提供Networking的技術支援，也有Infinity Fabric架構，直接利用CPU與GPU溝通。