AI晶片需求大增,GPU算力與記憶體容量皆須升級,HBM成為其中不可或缺的一環。太報繪製
隨著AI伺服器持續佈建,在GPU算力與記憶體容量都將升級下,HBM成為其中不可或缺的一環,規格容量向上攀升!例如輝達 Blackwell平台將採用192GB HBM3E記憶體、AMD MI325更提升到288GB以上。到了2025年,HBM市場競爭將會加劇。本篇從HBM原理、演進、良率、價格、產能、獲利等6大面向進一步剖析未來市況。
甚麼是HBM?相較傳統DRAM(動態隨機存取記憶體),HBM(High Bandwidth Memory)是高頻寬記憶體。它的原理就像堆積木一樣,透過3D立體堆疊成為高效能DRAM,提高記憶體的頻寬與容量,也有更低的能耗。
HBM透過3D立體堆疊方式,提高記憶體的頻寬與容量。太報繪製
HBM透過單晶片容量、層數增加來演進TrendForce產業分析師王豫琪指出,從HBM2E到HBM4,這四個世代高頻寬記憶體的進程有兩大特點。它是透過速度和容量的提升,來提高資料傳輸能力。首先,是單晶片容量的提升,以HBM3E為例,單晶片容量已從上一代16Gb提升到24Gb。
除此之外,也可透過(layer)層數來提升HBM整體容量。HBM3的層數已從原本的4層/8層提升到8層/12層,到了HBM4時代,甚至有16層的產品問世。
王豫琪坦言,對於HBM產品而言,這其實已是最大的技術難度,因為層數提升有其限制,它的高度已經受限,所以要把晶片做得更薄,以及連接處還能不能萎縮,亦是良率一大挑戰。
若以速度而言,HBM2E的傳輸速度是3.2~3.6Gbps。到了HBM3,速度已提升至5.6~6.4Gbps,HBM3E更已快到8.0~9.8Gbps。由於層數受限,HBM4的傳輸速度只能到8Gbps或高一點點,但它的I/O數可以從1024提升到2048,因此傳輸速度也能達到2倍提升。一般DRAM的I/O數大約是16、32或64,由此就可看出HBM與一般DRAM產品存在非常大的差異。
DDR5與HBM3E比一比若進一步比較DDR5和HBM3E製程,HBM3E切出的晶圓數量約500~600顆,比DDR5少了30%左右。
在良率部分,一般DDR產品的成熟良率為80~90%。但HBM因有前段晶圓以及後段晶圓的堆疊良率考量,兩段相乘下來,成熟良率約55~70%左右,目前市面上HBM產品的良率平均值約60%。換言之,在晶圓體積較大和低良率的情況下,HBM3E的晶圓消耗量約為DDR5的2~3倍。
王豫琪指出,HBM正在逐代演進,與DDR的差距也逐漸擴大,如同HBM4的I/O數已提升到2048,它的產品體積愈來愈大,相對耗用的晶圓數量也會愈來愈高。
在量產進度方面,目前8層HBM3E已進入量產,12層HBM3E將於明年進入驗證階段,驗證完成即可進入量產階段,待明年上半年良率提升,HBM能見度也將破表。
HBM生產流程長達半年再從生產流程來看,DDR5需要3至4個月,但是HBM3E需要將近半年。「各原廠已開始針對明年上半年的產能進行規劃,因為現在投片,要到明年上半年才能產出。」她提到,這也類似晶圓廠的先進製程,也需要提早下單,才能針對後面的產品去做規劃。
「HBM和DRAM完全不一樣,一旦投入HBM,就沒有回頭路了!」它對於整個記憶體市場影響非常大。縱使投入HBM需面臨技術上的挑戰,還是有廠商願意長期投入,最大的原因就來自於獲利。
價差是DDR的4倍以上從價格面來看,DRAM價格在這一年來逐季上漲,但與HBM價格仍相去甚遠,以主流DDR5與HBM3相較,大約有4倍以上的價差。「就連HBM3E與HBM3之間,也存在明顯價差,大約是5~10%差距。」
顯見HBM獲利能力在一定水準之上,隨著HBM世代更迭,高昂的生產成本都會反映在售價上,未來如HBM4的獲利空間相對更高,HBM的溢價優勢導致供應商優先供貨。
產能部分,HBM從2023年31.5億Gb產量提升至今年122億Gb,年成長率接近300%。王豫琪表示,比較大的產能會在今年發生,明年將成長到265億Gb。
TrendForce產業分析師王豫琪表示,2025年DRAM整體產能呈現小幅成長,但HBM占比將大幅提升。集邦提供
HBM產業兩強爭霸!「HBM產業在今年形成一個高點,三星、海力士為產業中的兩強,其中又以SK海力士優勢較大;美光則緊追在後。」明年預計三星、海力士的產能有3倍成長,美光則是2倍。即使在今年高基期之下,2025年還是能達到117%成長率。
王豫琪認為,SK海力士在HBM供應持續領先市場,三星仍在尋求重塑HBM市佔率現況,率先提交HBM3E 12層樣品,希望獲得更多訂單。而美光在明年的市佔率估約10%。
進一步剖析各家產品路線圖。HBM4明年仍處於樣品階段,預計2026年量產。「它的起量時間會很快,因為它的Base Die(基礎裸晶)會跟晶圓廠合作,同時加速與GPU業者合作。未來發展將突破現有產品空間,並創造更大的市場格局。」她強調HBM迭代快速,今年才量產的HBM3E,目前比重已經過半。明年12層HBM3E量產後,預期比重將達到85%,是明年的關鍵節點。
輝達、AMD高階產品都採用HBM3E目前市場兩大AI晶片商輝達與AMD而言,今年約有47%比例為HBM3,HBM3E則佔44%,明年將提升到85%,HBM3佔比在明年僅剩個位數。
NVIDIA、AMD的AI晶片採用HBM3E的比重將從今年44%提升到85%。集邦提供
輝達產品H200、GH200、B100、B200以及AMD的MI325/MI350都採用HBM3E。NVIDIA 正透過HBM領域來提升產品性能,並擴大與競爭對手的差距。目前輝達對HBM的需求比重高達63%,明年更將提升到72%。而其他AI晶片供應商包括AMD、Google自研晶片在內,需求比重都僅有個位數。
輝達對HBM需求比重高達63%,明年將提升到72%,在市場上的影響力愈來愈高。集邦提供
HBM產業憑藉高單價優勢快速成長,今年產業總營收年增320%,約182億美元,其中HBM3E佔比達51%。明年隨著12層HBM3E量產,價格與產量雙雙提升,市場將迎來156%營收成長,約達到467億美元,HBM3E佔比將高達89%。
王豫琪表示,HBM市場仍處於高成長階段,但由於HBM生產難度高、良率仍有顯著改善空間,推高整體生產成本,平均售價約是DRAM產品的3~5倍,待HBM3E量產,加上產能擴張,營收貢獻將逐季上揚。