國網中心算力加持 智聯服務用AI助半導體產業突破IT維運瓶頸

智聯服務與UnieAI團隊攜手打造資訊服務解決方案。DIGITIMES攝

半導體產業及中小產業面臨數位轉型浪潮，IT維運與算力調度挑戰日益嚴峻，智聯服務與UnieAI及國網中心合作，運用H100 GPU裸機資源及UnieAI AI技術服務，打造全新AI維運及算力應用的IT資訊服務解決方案，為中小企業產業帶來顯著的營運效益提升。

智聯服務總經理韓政達表示：「目前半導體及中小企業普遍面臨三大挑戰，首先是IT維運方面的人力斷層問題，新進人員難以快速接手工作，加上缺乏標準作業程序，導致維運知識傳承困難，過度依賴個人經驗。

此外，在AI算力調度與應用層面，企業缺乏動態調度與即時監控機制，造成GPU資源浪費與任務排程混亂。多部門共用資源時，優先順序管理不當，容易出現『搶資源、閒置率高』的矛盾現象。因此，智聯服務借力國網中心提供的硬體資源，結合UnieAI的軟體架構實力，提供企業全方面的IT資訊解決方案」

智聯團隊透過國網中心提供的8張H100 GPU資源，成功解決了多項技術瓶頸；過去自建環境無法承載LLaMA 70B或Qwen 235B等大型語言模型，H100的強大算力使高精度模型推論成為可能，可模擬多任務、多部門併發場景，自動動態調度資源，有效解決高低峰GPU閒置與過載問题。

除此之外，傳統IT部門面對新科技的來臨，企業有意導入全新AI技術，但同時面臨科技門檻，對於GPU配置、維運模型等進入障礙，皆阻礙生成式AI應用落地。UnieAI 借助 H100 的強大算力實現「推論即學習」（TTRL），並結合UnieAI 開發的推論加速引擎，在每次推論時同步產生最多 8 組資料樣本，使模型得以即時依任務回饋進行細微調整，持續提升回應品質與語境的適應力。

UnieAI 專案經理柯孟豪表示：「AI 導入不能只是『建立應用場景完就結束』，而是必須建構一套易於維運、可持續優化的系統性架構。許多企業在 PoC 階段只關注模型準確率或 Demo 效果，而忽略日後的維運與效能監控，導致服務上線後需要付出更加高昂的部署與維運成本，因此UnieAI在此次專案導入UnieVerse智慧平台協助企業穩定部署與管理AI服務。」

國網中心算力支撐大型模型部署 智聯AI智慧平台優化IT維運效率

目前智聯服務提供三大關鍵模組，GPU調度引擎模組支援跨部門資源管理、自動排程與動態分配，可依據任務需求自動調度算力。知識圖譜與語意理解模組整合企業內部知識庫，包含維運SOP、歷史紀錄、錯誤代碼等，使用大型語言模型加上RAG技術，支援自然語言問答與即時維運知識搜尋。

IT異常診斷模組則能即時分析帳號權限錯誤、系統異常等常見維運問題，自動引導使用者處理，實現自助診斷、自助排錯功能。

在實際應用場景中，AI助手展現出顯著效果。以帳號權限錯誤處理為例，過去使用者遇到權限問題需申請支援、等待IT查詢處理，平均耗時1至2日。現在系統引導使用者確認身分、點選錯誤類型即時跳出互動流程， 可即時線上解決，並縮短進階問題可在1日內專人解決。

在維運知識文件語意查詢方面，工程師處理設備異常時，可直接使用自然語言提問，系統結合RAG從上百頁資料中語意檢索，直接擷取關鍵段落與步驟，從「自己翻找半小時」轉變為「AI秒答精準資訊」。

智聯服務專案經理蔣方瑜提到，專案帶來的量化效益相當顯著。在技術效率方面，模型推論時間縮短50%，GPU使用率提升超過60%，資源配置與排程錯誤顯著減少。IT維運成效部分，IT任務自動回應比例提升至40%，人力依賴時間降低30%，IT問題反應與處理時間縮短50%。

對於未來規劃，智聯預計將軟硬整合的資訊服務平台應用擴展至客服作業、財務流程、製造設備參數異常分析等領域，形成跨場域的維運知識整合平台。

在部署策略上，將採取雙軌模式，大型企業與資安敏感單位的客戶，可提供私有化部署選項；中小企業或研發團隊客戶，則繼續運用國網中心GPU資源，提供具彈性的AI雲端平台，藉此順利推動數位轉型，從而深化企業競爭優勢。