智慧應用 影音
DWebinar0814
ADI

AI伺服器與傳統伺服器有極大差異

在人工智慧(AI)的大熱潮中,NVIDIA如何一枝獨秀,我們可以先從伺服器的成本結構看起。傳統x86的伺服器總成本略微超過1萬美元,但搭載8顆GPU的NVIDIA DGX H100系統,總成本將近27萬美元,兩者之間價差相距甚遠。

不僅英特爾(Intel)的市值被NVIDIA超越,現在連營業額都輸給NVIDIA,NVIDIA更超越台積電、三星電子(Samsung Electronics),成為全球營業額最大的半導體廠商。

NVIDIA的領先優勢,從台積電、SK海力士(SK Hynix)兩大供應商的營收也可以看得出來。在台積電有3奈米、4/5奈米、7奈米幾個主要的先進製程,4/5奈米主要便是供應NVIDIA的GPU之用。

在2024年第1季台積電各製程比重變化中可以得知,當專攻3奈米的iPhone出貨走過旺季之後,交貨給NVIDIA的4/5奈米製程成為台積電一枝獨秀的世代。

為滿足NVIDIA的需要,原本計劃落腳在銅鑼的CoWos先進封測廠搬遷到嘉義,而CoWos的月產能預期也將從2023年的1.3萬片,暴增到2024年的3.8萬片與2025年的7.6萬片。

在記憶體方面,過去幾年三星DRAM部門的營收都是SK海力士的1.5倍左右,但NVIDIA最主要的合作夥伴是2015年率先量產HBM的SK海力士。

在景氣轉變的2023年第4季,三星記憶體部門(DRAM+NAND)營收成長率是33%,但SK海力士的DRAM部門成長率高達65%。事實上,從2023年第2季開始,SK海力士的DRAM營收便超過三星,關鍵就是與NVIDIA合作的HBM記憶體。

為滿足HBM市場的商機,SK海力士的M15與M17工廠都調整擴廠結構與節奏,希望能快速擴張HBM產能,以滿足高階伺服器市場的需求。

台積電魏哲家也說2028年時,AI伺服器晶片的需求將貢獻台積電20%的營收,顯示NVIDIA的兩大供應商都在財報中看好高階伺服器的商機。

2020~2022這三年間,全世界半導體廠商的排名依序是英特爾、三星與SK海力士,在以自己的品牌在市場上銷售半導體的公司中,NVIDIA通常只能排名第六、第七。但市場從2023年起開始翻轉,以製造服務取勝的台積電在上半年超越所有的半導體品牌廠,成為全球第一大半導體公司。

下半年的NVIDIA更猛,2023年四個季度的營收分別為71億美元、135億美元、181億與221億美元。第1季與第4季的營收差距多達3倍,可以想像十倍速的時代正在發生,能儘快挪動資源的公司將成為市場上最大的贏家。

風行草偃,我們看到圍繞在NVIDIA四周的科技公司,都深怕錯過這一波大潮。

根據DIGITIMES彙整的預測資料,企業市值名列前茅的大公司中,微軟(Microsoft)、蘋果(Apple)、亞馬遜(Amazon)、Google、三星是年營收超過2,000億美元的超重量級公司,NVIDIA、Meta與Tesla也有1,000億美元以上的規模。

但在市值排名前12大的公司中,NVIDIA與台積電的淨利率分別達到52.2%、37.2%,過去的霸主英特爾卻只剩下4.6%。從營收與獲利結構中,我們看到了世代的更替,AI主導的時代已經再明顯不過了!

為擁有近40年資歷的產業分析師,一手創辦科技專業媒體《電子時報》(DIGITIMES),著有《矽島的危與機》、《東方之盾》、《斷鏈之後》、《科技島鏈》、《巧借東風》、《西進與長征》、《出擊》、《電腦王國ROC》、《打造數位台灣》、等多本著作。曾旅居韓國與美國,受邀至多家國際企業總部及大專院校講授產業趨勢,遍訪中國、歐美、亞太主要城市。