美光曝存儲器新進度

研調機構TrendForce集邦咨詢17日舉辦AI服務器論壇，美光透露目前DDR5醞釀許久，而HBM產能在2025年前已滿載，美光在各種存儲器產品有多種布局，也為AI數據中心提供強大支持。

美光在全球布局超過54,000項專利，存儲器和存儲技術領先業界，目前已經醞釀很久DDR5，下一代會做到1γ制程，采用EUV制程技術，計劃2025年率先在中國臺灣量產。

美光表示，公司擁有廣泛的產品群組、長周期生命產品，以及完整的系統規劃。隨著AI改變數據中心生態，讀取方式已經不同，必須跟著AI神經網路模式運作，因此深度學習的讀寫比率已經到5000:1，意味著讀取速度遠超過寫入速度，因此選擇合適的儲存設備相當重要。

對此，美光也進行服務器架構優化，當GPU服務器和SSD以1:1方式進行訓練，效能會做到最好。另外，隨著AI時代來臨，在AI效能和成本間的平衡也越發重要，美光推出能最佳化現有系統并延長設備壽命的DDR4，速度高達3,200MT/s。在多核心CPU架構下，美光DDR5以6,400MT/s速度，使頻寬增至DDR4的2倍、深度學習效能為DDR4的5倍、AI性能提升7倍，支持AI、HPC和企業負載。

NAND部分，美光目前推出232層NAND，以穩定在產品上應用為主，并同步發展HBM3e甚至HBM4。美光表示，CXL也是未來相當重要的發展方向，目前推出的CZ120為存儲器擴充模組，可提供更多容量、頻寬和靈活配置，是較為前端的應用，目前樣品已經分享給合作伙伴。

晶心科提供客制化指令集工具ACE，增加設計彈性

晶心科技資深技術經理胡鴻光指出，RISC-V具有模組化優勢；開源架構、沒有法律問題；可最少指令集進行設計，因此能做到非常精簡、有效率的狀態；具有客制化優點，每個客戶能自己增加指令和自己的功能。RISC-V架構可以用于數據中心、車用、移動設備等任何AI需求產品。

晶心科成立已經有19年，在今年1月的SHD報告中，該公司在RISC-VIP供應商中市占率高達30%，聯發科、聯詠、瑞薩、群聯等都有長期合作，另外一個主要大客戶是Meta。

胡鴻光認為Meta之所以選擇RISC-V，優勢在于容易客制化、有極大彈性，而RISC-V新出的矢量指令集在做AI運算極具影響力，另外晶心科提供客制化指令集工具Andes Custom Extension（ACE），提供Meta增加私有客制指令介面與暫存器，可達成其需求。

TrendForce：AI服務器需求暢旺，出貨量年增近41%

最后針對AI服務器市況，TrendForce資深分析師龔明德指出，有幾大重點領域，主要拉貨領域包括北美CSP（云端服務供應商），包括公有云、搜尋引擎、廣告推薦系統等。

今年服務器僅成長近2%，因為受到AI預算排擠，而AI服務器需求暢旺，出貨量可望達166萬臺，年增近41%。龔明德預期，今年第二季成長較明顯，因為Nvidia H100前導時間（leading time）縮短，逐季看好。

龔明德預期，Nvidia今年高端GPU出貨量將年增超過110%，到下半年產品品將過渡到H200，而B100將進入早期量產階段。至于AMD高端AI解決方案會主要面向CSP，搭載M1300 XAl芯片的Al服務器預計下半年將成主流，而第二供應商的身份有望帶來AMD成長。

同時，CSP內部開發的ASIC也將發揮關鍵作用。到了2024年，AWS將在下一代ASIC投入大量資源，Meta和中國大陸CSP亦是如此。CSP今年仍將是AI服務器主要成長動能，尤其北美四大CSP已經占六成采購量，中國大陸自主芯片需求也會強勁。

最后針對Nvidia Blackwell平臺，龔明德認為這款產品主要面向CSP，并推動CoWoS和HBM出貨量在2025年實現雙高個位數成長。