金兆葳攜手UnieAI以生成式AI強化半導體製造效率
人工智慧技術在製造業的應用日益普及,半導體產線的智慧化轉型已成為企業提升競爭力的關鍵。金兆葳與技術合作夥伴UnieAI團隊透過國網中心提供高速運算資源,成功開發企業級AI系統與智算平台,為半導體產線知識管理與維運效率帶來突破性改善。
半導體製造產線在維運與知識管理方面面臨多項挑戰,維修與異常排除高度仰賴資深工程師經驗,新進人員培養期長達半年以上,知識傳承困難。工程師處理機台異常時需手動翻閱大量操作手冊、維修紀錄與技術文檔,每台機台常見的大量錯誤代碼與詳盡對應處理標準流程,造成資料龐雜且查詢繁瑣困境。
此外,技術文件與Log檔案格式各異,缺乏結構化與統一性,往往導致AI訓練語料萃取困難。多數IT人員缺乏生成式AI與大型語言模型相關經驗,無法自行設計或部署AI系統,加上建置高效能GPU運算資源成本極高,形成AI導入的技術門檻。對此,金兆葳攜手UnieAI,以生成式AI技術協助半導體產業克服挑戰。
國網中心算力支援技術突破 生成式AI推動半導體製造智慧化
金兆葳擁有資歷豐富顧問團隊,提供IT硬體、軟體的系統規劃、設計、施工、安裝、維護等整體服務,UnieAI則是專精推論引擎與生成式AI架構的新創團隊,具備從LLM建模、推論到算力調度的開發能力。在此次專案前,雙方已擁有初步AI工作站與模型測試設備,可進行小規模離線模型驗證,但由於缺乏高階GPU資源,無法進行大規模部署與進階應用實驗。
在國網中心H100 GPU的HPC支援下,專案團隊預計達成三大技術目標:建置整合AI工作站與智算平台的一站式企業級AI系統、強化推論效能將GPU使用率提升至96%並實現推論效能提升2倍,以及驗證AI模型在產線場域的實際效能。商業目標則希望縮短AI導入週期超過30%、降低IT維運負擔70%,以及提升企業AI應用落地成功率。
目前金兆葳與UnieAI團隊已完成三大核心模組開發並進入場域實測階段,其中RAG應用模組可即時檢索操作手冊與技術文件,支援產線異常處理;Log異常分析模組能解析機台Log並生成錯誤原因與處理建議;GPU資源自動調度機制則可動態配置算力資源,支援多任務併發與推論任務排程。
在實際應用方面,已於南部某日商分公司導入場域實測,此生成式AI平台可協助新進工程師快速查詢技術資訊、理解異常狀況,有效減少人工查閱時間,AI系統回應速度快且資料準確度高,優於傳統人工處理流程。
金兆葳與 UnieAI團隊指出,國網中心提供的H100 GPU在本次成果中扮演關鍵角色。透過高速運算資源,系統大幅降低推論延遲,能即時處理語意與關聯資訊並迅速回應。結合UnieAI自行開發的推論引擎後,GPU記憶體使用率從60%提升至96%;H100在多任務負載的平行處理能力上明顯優於V100與A100,可同時執行推論與模型微調任務,有效解決企業無法充分發揮運算資源的困境,整體服務承載能力提升超過兩倍。
具體效益數據顯示,AI模型推論時間縮短超過50%,GPU資源使用率提升至60%~96%,AI上線週期平均縮短30%,IT維運負擔中人工重複性任務減少70%,故障排除時間與錯誤率顯著降低。
金兆葳與UnieAI研發的生成式AI平台採模組化、場景導向設計,具高度延展性,未來可擴展至智慧工廠、智慧客服、金融風控、醫療輔助診斷等領域。對於國網中心,團隊對給予高度肯定,未來將持續善用國網中心算力資源,為台灣製造業智慧化轉型注入新動能,打造產學研合作推動產業升級的成功典範。