AI伺服器系統廠「終極聖杯」 緯穎L12組裝大單入袋
- 李立達／台北
-
緯穎董事長洪麗寗指出，伺服器產業因為AI有三大趨勢變化，首先是算力驅動科技發展，其次是新市場、新客戶出現，最後是伺服器服務範疇擴充，如緯穎就接到馬來西亞楊忠禮集團（YTL）資料中心訂單，首度從L11組裝跳至L12。此為台系伺服器系統整合廠一大跳躍。
業界認為，觀察重點在於，緯穎透過YTL訂單，首度從L11組裝層級，跳升至L12一事。
所謂L11，是伺服器機櫃的最終組裝，L12則是多機櫃組裝成cluster（叢集），必須考慮整個資料中心建置，對伺服器ODM來說，是一大挑戰，也是「終極聖杯」。
業界指出，伺服器組裝共分L1~L12階段：
其中L1~6主要以各種模組組裝為主，出貨為主機板形式；L7~L9階段再加上CPU、GPU、HDD、記憶體等關鍵零組件；L10進行系統組裝與測試；L11是整機櫃組裝，也是多數台灣ODM廠做到的層級。
多數台系ODM廠與客戶的出貨模式，是在L11的機櫃組裝後，再由國際CSP客戶組成伺服器cluster，也就是L12，據悉，這也是ZT團隊吸引台、美EMS/ODM廠搶標的原因所在，因為ZT團隊有L12的組裝經驗與能力。
GPU單價極高，ODM廠在buy and sell的出貨模式下，L11的整機櫃組裝，做越多、毛利率侵蝕幅度也越大。此也是日前鴻海、廣達都已釋出的訊息，當GB200出貨比重拉高時，毛利率將會承壓，然若做到L12，毛利率反而會提升，但ODM不一定有機會或有能力做到。
洪麗寗指出，以前客戶都是CSP，很多台廠都會做板子或機殼，或做到單機櫃的組裝，由客戶串起來成為cluster，如今緯穎也有機會協助客戶做cluster，主因客戶並非傳統的CSP，而是新的市場玩家。
洪麗寗提到的新市場玩家，就是馬來西亞最大綜合企業：YTL。
有別於CSP廠商與科技關聯較深，YTL是馬來西亞知名綜合型基礎設施開發商，事業版圖橫跨能源、建築工程、地產開發與投資、酒店與度假村、科技以及教育，足跡遍及亞太地區、歐洲和中東。
YTL預計將在馬來西亞柔佛州興建600MW的資料中心。洪麗寗表示，YTL是個大集團，有電力、水資源、建築與電信產業，並非傳統的IT玩家，可見AI多吸引人，大家都想做資料中心，如同百花齊放。
延伸報導AI伺服器前進柔新特區最先鋒 專訪緯穎馬來西亞總經理劉永興
另一非傳統玩家的是：Lambda。
Lambda提供專為訓練、微調及部署AI模型設計的雲端服務及軟體廠商，該軟體服務備受程式開發者喜愛，因為其本身就是從程式開發起家，深知業界需求，Lambda近期也開始建立資料中心。
延伸報導和碩交付GB200機櫃 砸6億投資美CSP廠
洪麗寗參加台北市電腦公會舉辦的AI NEXT FORUM，以「AI算力重塑全球產業格局」為題發表演說。洪麗寗指出，她觀察伺服器產業，AI領域有3大轉變，包括算力成長，推動科技發展，其次為新的市場玩家及新市場出現，最後是伺服器供應鏈的服務範疇擴大。
洪麗寗指出，之前大家還在擔憂那家CSP不蓋資料中心或取消租約，影響市場需求，所幸上週CSP大廠的法說會打破大家誤解。
目前各界估計，2024年的成長幅度最明顯，之後仍會成長，只是幅度減緩，然2023~2028年的AI伺服器市場規模年複合成長率（CAGR），仍可達23%。
洪麗寗指出，AI模型愈來愈大，算力需求也持續拉升，在Transformer模型出現之前，算力增加速度是2年8倍速，然在Transformer模型出現後，算力加速，達到2年256倍速。
因應算力需求，CPU與GPU業者拼命推出更強產品，結果，卻是耗電與散熱需求拉升。
現在晶片耗電達1,000瓦（W），預計未來1~2年內將會拉升到2,000~2,500瓦，此也帶動散熱從過去的氣冷，轉為到人人都在談論液冷，現在也有廠商在研究把散熱做到晶片裡。
洪麗寗指出，過去伺服器散熱能力預計2年會增加1.2倍，如今是2年增加2倍，預計未來沒多久，就要達到2年3倍的提升。
她表示，在此過程，台廠還有很多機會，比如快接頭的漏水問題，甚至緯穎在測試時，都會不小心漏水。
在算力提升的同時，也有如上述YTL及Lambda的新玩家出現，此外，也有主權AI的資料中心，及提供AI服務的廠商，包括知名的OpenAI及Mistral AI等，這些都是新的資料中心建置者，也是ODM的新客戶來源。
責任編輯：何致中
