AI加速器對抗 AMD面對英偉達不落下風

「買愈多、省愈多」的話語權輪到AMD發聲！ 根據近期業者公布AI服務器測試結果顯示，MI300X在相同條件下，達到英偉達H200 5倍之Tokens（參數）吞吐量。 得益于AMD在ROCm生態系導入的新AI Tensor Engine（張量引擎），加速GPU訓練及推理; 另外，在硬件層面大量堆疊HBM也發揮關鍵作用。 未來在成本更加錙銖必較的情況下，AMD AI服務器更顯優勢。

平價語言模型的崛起，正在重塑GPU市場生態，阿里巴巴首開全球數據中心算力過剩第一槍，業界分析，未來成本更加被檢視情況下，AMD AI服務器價值將重獲市場重視。 過往英偉達自豪的CUDA生態護城河，AMD強化ROCm補齊短版，最新推出的AI Tensor Engine，搭配更佳的硬體規格，與主流業者一決雌雄。

法人分析，臺廠于AI服務器供應鏈扮演重要角色，硬件組裝具競爭優勢，因此包括鴻海、廣達，散熱業者奇鋐、雙鴻等也能吃到AMD服務器訂單。 晶片也委托臺積電生產，但相較英偉達，AMD更敢于嘗試新技術，MI300領先市場采用采用SoIC搭配CoWoS，今年將推出的MI350X以臺積電3納米制程打造，并用上HBM3E，更大的吞吐量、使推理性能將前一代提高35倍。

AMD之MI300X在DeepSeek-R1推理性能表現突出，結果顯示，MI300X運行FP8最高參數版本之DeepSeek-R1時，在相同延遲下吞吐量最高可達輝達H200之5倍，科技業者指出，H200單一節點可處理16個請求、MI300X則可處理128個。

AMD原先預估今年上半年AI業務收入將持平，不過，受中國大陸特規版MI308強勁需求推動，法人透露，CSP的資本支出成長及阿里巴巴和騰訊的采用，將推動AMD今年AI業務收入成長至87億美元，相較去年50億美元、大幅成長7成。 在消費性產品部分，Radeon 9070系列發布帶動，AMD游戲GPU預計表現強勁，該系列GPU在光追性能方面大幅提升，并引入全新的AI加速性能，第二季表現可期。