重塑運算核心競爭力 全面解析未來算力新格局
- 鄭茨云／DIGITIMES企劃
-
在各方軟硬體廠商的投入下，具備高效能運算(HPC)功能的伺服器，已然成為各類AI應用，建立起強大發展基礎。為協助台灣業者掌握此波智慧商機，DForum 2025半導體論壇以HPC為主軸，邀請多位業界專家，深入剖析HPC的最新進展與解決方案。
全球重組浪潮下的技術突圍 從主體戰略到AI/HPC融合生態布局
DIGITIMES暨IC之音董事長黃欽勇在開場演講時指出，美國藉由關稅政策重構全球供應鏈，台灣作為資通訊產品重度輸美國家，已進入高風險區；同時供應鏈呈現明顯分散化趨勢，墨西哥與越南快速崛起，而台灣則保持穩定地位。
面對中美科技競局，黃欽勇強調，台灣需建構主體意識與自主戰略，並以桃園「AI之都」為例，提出「定義、定位、定價」三步驟策略，結合中央補助與地方產業優勢，強化資料中心與AI伺服器生態系。
展望未來，台灣須面對AI、HPC與Edge三合一的新架構需求，把握半導體市場2024~2025年預估11.2%的成長契機。最終，無論是對外投資或在地布局，都應基於核心價值與主體認知，做出戰略選擇，勇於承擔歷史性任務。
半導體產業邁向更緊密整合發展，先進封裝技術已成為創新核心。Teradyne SLT Business Development Director of APAC David Wu提到，Chiplet架構普及化帶動多晶片設計成為主流，同時業界積極導入散熱管理、嵌入式無源元件、背面供電及光電共封等技術，使測試複雜度呈現爆發性成長。
目前測試領域面臨三大挑戰，包括1.確保Die-to-Die接口品質，涉及UCIe、OpenHBI等新世代傳輸標準；2.管控靜默錯誤風險，即使99%掃描涵蓋率仍無法完全保證系統可靠性；3.多晶片封裝良率問題，尤其高階AI/GPU晶片的微小逃漏率可能導致鉅額損失。
為此，Teradyne提出FlexTest架構，透過測試可攜性讓流程彈性移動於各測試階段，藉此早期發現問題降低成本、確保出貨品質。透過模組化系統、統一開發平台及AI/ML技術提升測試效率，滿足AI、自駕車等高複雜度市場需求。
AI時代帶動高效能運算需求爆發性成長，高速互連技術已成為支撐資料中心效能的決定性關鍵。台灣是德科技資深技術專案經理林昭彥表示，AI驅動下資料中心內部機器對機器通訊流量激增，在互連技術演進方面，產業正從100G邁向200G乃至224G，關鍵標準如OIF-CEI-224G及IEEE 802.3dj成為技術推動主力，同時帶來包括電氣測試與光學測試整合等全新挑戰。
針對共封光學與矽光子IC，測試重點聚焦於光光測試、電光測試及混合測試三大面向，需整合光源功率、調變效率與高頻訊號完整性等多維度驗證。
隨著功耗問題日益嚴峻，線性驅動光學技術崛起，預期可降低25-50%功耗。是德科技提供完整解決方案，涵蓋高頻示波器、波形產生器、誤碼測試儀等平台，助力業界從標準制定到產品落地，加速AI/HPC互連技術的創新與應用。
高效能運算需求日益攀升，雲端HPC服務快速成為市場主流解決方案。AWS台灣資深解決方案架構師楊凱智指出，雲端HPC已從早期的概念驗證階段邁入正式生產應用，近半數企業已據此重新調整內部策略。
在技術基礎方面，AWS透過EC2結合Nitro System提供接近裸機效能的虛擬化平台，並以Elastic Fabric Adapter突破網路延遲瓶頸，支援高效能並行通訊；檔案系統方面則提供Amazon FSx for Lustre支援大規模並行存取，並以Amazon File Cache整合S3與NFS功能。
資源管理上，AWS Batch提供全託管自動調度功能，AWS ParallelCluster則支援Slurm等常用排程器，實現一站式遷移本地HPC環境。AWS HPC解決方案核心優勢包括無限擴展性、成本效益最佳化、技術先進性及快速上線無需改碼等特點，提供企業全方位的高效能運算支援。
AI應用快速普及，企業對AI私有化部署的需求與日俱增，儲存技術成為關鍵突破點。群聯電子技術長林緯提到，群聯是全球最大獨立NAND控制晶片供應商，其儲存技術更已應用於NASA火星任務與登月計畫，展現極端環境下的高可靠度。
面對生成式AI普及後企業對資料安全與自主可控的高度需求，私有化部署地端AI成為新趨勢，DeepSeek-R1、QwQ-32B等案例證明，小型模型亦可達到優異效能。
群聯aiDAPTIV+核心技術結合GPU、VRAM、DRAM與NAND快閃記憶體，使NAND擔任延伸記憶體角色，實現10倍成本效益提升，大幅擴展模型處理容量。該技術可應用於模型後訓練、推理加速及垂直行業微調，支援多種AI框架與工具鏈，適合教育場域、製造、金融、醫療等資料敏感產業，推動全民皆可訓練AI模型的願景。
快速成長的AI，導致能源消耗問題日益嚴峻，CPU架構優化成為降低運算成本的關鍵戰場。Arm Principal FAE Rickie Chang表示，生成式AI能耗驚人，年耗電量已達Google資料中心兩倍。AI工作負載中訓練僅佔15~20%，推論佔80~85%，因此低延遲、高即時性成為核心需求。
Neoverse架構從N1至V2系列，FP32效能提升2倍，INT8提升4~5倍，實測顯示提示詞處理速度從255提升至567 tokens/秒。與NVIDIA Grace Hopper融合後，GPT-175B微調效能達x86 Hopper平台4倍。
Arm推動晶粒化系統架構，發布CSA與CSS標準規範，並推出Kleidi開放式加速框架，整合PyTorch等工具，協助夥伴大幅降低計算成本，如OctoAI的NLP模型成本下降73%，Wallaroo相比x86架構實現7倍ML效能提升。
數據中心基礎設施升級 支撐AI世代算力與能耗需求
AI技術快速演進與算力需求爆發性成長，高效能運算(HPC)已成為國家戰略資源與產業創新的核心推動力。國網中心副主任姚志民指出，國網中心肩負建置AI大型算力、推動跨域HPC合作、深耕資料保護與資安、優化網路與智慧治理平台等四大任務，積極打造支援在地模型訓練與捍衛數位主權的基礎設施。
在實際建設上，2025年南科雲端資料中心即將啟用，沙崙AI超級電腦計畫預定2029年完成，屆時將達到200 PF等級的運算能力。尤其值得關注的是TAIWAN AI RAP本土大型語言模型平台，提供可視化開發介面、多模型API服務與模型微調評估等功能，支援多樣化推論硬體，並整合vLLM、DIFY等開源工具鏈，積極扮演台灣AI發展的「國家引擎」角色。
高效能運算與AI技術深入產業核心，資安已從企業內部議題演變為全域性挑戰。國際自動化協會台灣分會行銷長詹燿州在演說中，提出「Security by Demand」核心理念，此概念源自美國CISA、NSA、FBI與歐洲多國資安機構聯合指南，主張業者在選購產品與供應鏈夥伴時應納入12項資安考量，包括預設無弱密碼、支援TLS 1.3、韌體自動更新、多因子認證、漏洞修補時效及提供軟體物料清單等要求。
國際標準方面，ISA/IEC 62443已成為工控資安的主幹規範，合規範圍延伸至歐盟CRA、醫材、電動車及半導體等領域。產業實踐上，AWS等雲端巨擘已宣布支援ISA/IEC 62443並推動整合至IIoT安全架構，全球買家也越來越多以「Secure by Design」與「ISA 62443合規」為基本門檻。詹燿州建議，企業可從實務面選擇可維護且能跨供應鏈延伸的資安解決方案，全面強資安生命週期。
AI運算需求成長，液冷技術逐漸成為高密度運算設備的散熱主流，AMAX艾瑪斯科技AI液冷產品專案資深經理賴克偉表示，近年數據中心用電量節節高升，預計2026年將達1,000TWh，傳統氣冷架構PUE值目前已觸及效能瓶頸，液冷技術憑藉優異PUE值成為必然選擇。
液冷技術主要分為Direct-to-Chip、單相浸沒式、雙相浸沒式及泵浦雙相冷卻四種形式，但導入過程仍面臨缺乏統一標準、需預防性維護、水質管理及系統整合難度高等挑戰。
AMAX建議透過概念驗證階段導入Liquid-to-Air架構，採用側掛散熱器與冷板配置，可在既有氣冷數據中心中實施，並提供模組化、緊湊型液冷數據中心方案，支援高達500kW運算密度。隨著處理器功耗、機架密度漸高，能源利用瓶頸日益嚴峻，D2C液冷技術將成為未來數據中心轉型的主流架構。
電源系統效率向來是資料中心運算能力的關鍵指標之一。Wolfspeed Staff Field Applications Engineer Ray Chang提到，Wolfspeed的SiC元件以低導通電阻、低開關損耗與高溫穩定運作能力等優勢，相較競爭產品可減少75%開關損耗、使傳導損耗減半，並將功率密度提升3倍，系統效率更突破99%。
在伺服器電源系統方面，ORV3標準要求PFC效率須超過99%，支援180-305VAC輸入與3kW功率輸出，功率密度也從2020年的約30W/立方英吋提升至2025年的超過100W/立方英吋。
Wolfspeed第四代SiC MOSFET技術提供15%更低開關損耗、27%更低總切換損耗及3.5倍改善的體二極體柔順度，即使在高dV/dt條件下仍能安全切換。在製造產能布局上，該公司的JP Fab成為全球最大碳化矽晶體成長廠，產能為舊廠的10倍以上，而Mohawk Valley Fab則是全球首座也是最大的200mm SiC晶圓廠。他強調，隨著矽基電源架構接近極限，SiC元件將成為下一代HPC能源效率的關鍵選擇。
陽明交大研發與人才培育並進 打造台灣智慧島願景
除了精彩的專家演講，此次論壇也邀請陽明交大產學創新研究學院院長孫元成，就「AI與HPC浪潮下，台灣產學研合作的下一哩路」為題，剖析當前趨勢。他表示半導體產業透過創新持續演進，從平面微縮技術發展至立體3D封裝結構，大幅提升運算效能並降低功耗。
對於近年生成式AI模型成為人機互動創造革命性突破，孫元成提出「人腦會用機器腦」策略，強調企業應利用自有數據訓練專屬模型，並結合專業知識與AI工具發揮最大效益。台灣產業切入AI浪潮的可能路徑包括從應用端客製化發展、簡化模型提高實用性、從軟硬體基礎架構著手，以及開發節能AI演算法等。
陽明交大積極投入前瞻研究，並建立「半導體與AI正向循環」生態系統。為解決人才短缺問題，該校成立半導體工程學系，並配合「晶創台灣」計畫建設晶創園區，整合12吋晶圓研究中心與跨領域研究。透過運算記憶體整合技術模擬人腦運作，提升能源效率，多家台灣企業已投入相關研發，展現台灣成為「智慧島」的潛力。
