預估2024年AI服務器產值約占服務器市場比重65%

根據TrendForce集邦咨詢最新發布「AI服務器產業分析報告」指出，2024年大型CSPs（云端服務業者）及品牌客戶等對于高階AI服務器的高度需求未歇，加上CoWoS原廠臺積電及HBM（高帶寬內存）原廠如SK hynix（SK海力士）、Samsung（三星）及Micron（美光科技）逐步擴產下，于今年第2季后短缺狀況大幅緩解，連帶使得NVIDIA（英偉達）主力方案H100的交貨前置時間（Lead Time）從先前動輒40-50周下降至不及16周，因此TrendForce集邦咨詢預估AI服務器第2季出貨量將季增近20%，全年出貨量上修至167萬臺，年增率達41.5%。

TrendForce集邦咨詢表示，今年大型CSPs（云端服務供應商）預算持續聚焦于采購AI服務器，進而排擠一般型服務器成長力道，相較于AI服務器的高成長率，一般型服務器出貨量年增率僅有1.9%。而AI服務器占整體服務器出貨的比重預估將達12.2%，較2023年提升約3.4個百分點。若估算產值，AI服務器的營收成長貢獻程度較一般型服務器明顯，預估2024年AI服務器產值將達1,870億美元，成長率達69%，產值占整體服務器高達65%。

從AI服務器搭配AI芯片類型來看，來自北美CSPs業者（如AWS、Meta等）持續擴大自研ASIC（專用集成電路），以及中國本土業者如：阿里巴巴、百度、華為等積極擴大自主ASIC 方案，促ASIC服務器占整體AI服務器的比重在2024年將提升至26%，而主流搭載GPU的AI服務器占比則約71%。

就AI服務器搭載的AI芯片供應商分布來看，單看AI服務器搭載GPU，英偉達市占率最高、逼近9成，AMD（超威）市占率則僅約8%。但若加計所有AI服務器用AI芯片包含GPU、ASIC、FPGA（可編程邏輯陣列），英偉達今年市占率則約64%。

據TrendForce集邦咨詢的調查，展望2025年市場對于高階AI服務器需求仍強，尤其以英偉達新一代Blackwell（包含GB200、B100/B200等）將取代Hopper平臺成為市場主流，此亦將帶動CoWoS及HBM等需求。以英偉達的B100而言，其芯片尺寸將較H100翻倍，會消耗更多的CoWoS用量，預估2025年主要供應商臺積電的CoWoS生產量規模至年底總產能可達550k-600k，成長率逼近8成。另以HBM用量來看，2024年主流H100搭載80GB HBM3，到2025年英偉達Blackwell Ultra或AMD MI350等主力芯片，將搭載達288GB的HBM3e，單位用量成長逾3倍，隨AI服務器市場需求持續強勁下，有望帶動2025年HBM整體供給量翻倍成長。