國網中心助日月光導入生成式AI 打造企業級泛用AI Agent平台打造智慧製造新典範
面對半導體封裝測試產業數據量爆炸、人力成本節節上升,知識傳承成本日益升高、外部情勢與製程快速變化,跨部門資料整合難度日益升高等挑戰,日月光投入GEN AI應用與知識管理革新,日月光導入GenAI相關技術,讓資料處理與知識管理檢索效率快速升級。
現階段,公司內各單位廣泛應用此Gen AI 工具,有效提升資訊文件整合、並融合於各部門的作業流程中,達成無痛且升級的最佳化Agent系統體驗。實務上,目前已盤點並整合於各項作業,包含了:供應鏈管理、訂單排程估算、出貨客服、工程指示、人資客服等多項領域中協助決策,甚至在研發技術文件查詢、專家流程自動化領域展現高效能。
此次合作,日月光充分運用國網中心高速算力,進行多項LLM模型推論實驗與知識整合實驗,希望能透過算力主機實驗多個SLM模型,找到具備穩定回應能力之SLM模型三個之具體目標。專案完成後,將能讓Gen AI 工具降低延遲性於三高任務中(高彈性、高頻率、高機密性任務),讓平台能力大幅提升,可以將自動化彙整大型文件、提升知識搜尋速度,顯著改善技術文件檢索及流程決策效率
後續日月光仍會持續推廣Gen AI自主決策能力與Agent技術到公司的每個環節,讓每位員工的工作都有助手可以使用,而助手間也能平行溝通交握,這部分的強化自主訓練將持續下去,2025年是AI Agent的發展元年。未來還需持續借重國網中心高速算力進行相關研究,並推動智慧製造2.0、高強度與自適應性高的目標導向Agent等創新應用。感謝國網中心的協助與算力的服務,盼望未來有更多的算力專案可以開展進行,走向高智能的製造工廠。