輝達 Blackwell 需求揚!有望助臺積電 CoWoS 產能大增150%

輝達。記者吳康瑋/攝影

輝達(Nvidia)新一代平臺Blackwell包括B系列GPU、及整合自家Grace Arm CPU的GB200等。研調機構集邦(TrendForce)16日指出,GB200的前一代爲GH200,皆爲CPU+GPU方案,主要搭載Grace CPU及H200 GPU,但以GH200而言,出貨量估僅佔輝達高階GPU約5%。目前供應鏈對 GB200寄予厚望,預估2025年出貨量有機會突破百萬顆,則佔高階GPU近4~5成。

不過,輝達雖計劃在今年下半年推出GB200及B100等產品,但上游晶圓封裝方面須進一步採用更復雜高精度需求的CoWoS-L技術,驗證測試過程將較爲耗時。此外,針對AI伺服器整機系統,B系列也需耗費更多時間優化,如網通、散熱的運轉效能,預期GB200及B100等產品要等到今年第4季,至2025年第1季較有機會正式放量。

CoWoS方面,由於輝達的B系列包含GB200、B100、B200等將耗費更多CoWoS產能,臺積電(TSMC)亦提升2024全年CoWoS產能需求,預估至年底每月產能將逼40k,相較2023年總產能提升逾150%;2025年規劃總產能量有機會幾近倍增,其中NVIDIA需求佔比將逾半數。而Amkor、Intel等目前主力技術尚爲CoWoS-S,主攻NVIDIA H系列,短期內技術較難突破,故近期擴產計劃較爲保守,除非未來能夠拿下更多NVIDIA以外的訂單,如雲端服務業者(CSP)自研ASIC晶片,擴產態度纔可能轉爲積極。

對此,輝達及超微(AMD)AI發展將加速HBM3e下半年成爲市場主流。

HBM方面,從輝達及超微近期主力GPU產品進程及搭載HBM規格規劃變化來看,集邦認爲2024年後將有三大趨勢。其一,「HBM3進階到HBM3e」,預期輝達將於今年下半年開始擴大出貨搭載HBM3e的H200,取代H100成爲主流,隨後GB200及B100等亦將採HBM3e。

超微(AMD)則規劃年底前推出MI350新品,期間可能嘗試先推MI32x等過渡型產品,與H200相抗衡,均採HBM3e。其二,「HBM搭載容量持續擴增」,爲了提升AI伺服器整體運算效能及系統頻寬,將由目前市場主要採用H100(80GB),至今年底後將提升往192~288GB容量發展;AMD亦從原MI300A僅搭載128GB,GPU新品搭載HBM容量亦將達288GB。

其三,「搭載HBM3e的GPU產品線,將從8hi往12hi發展」,輝達的B100、GB200主要搭載8hi HBM3e,達192GB,2025年則將推出B200,搭載12hi HBM3e,達288GB;超微將於今年底推出的MI350或2025年推出的MI375系列,預計均會搭載12hi HBM3e,達288GB。