聖洋科技於台灣人工智慧年會解析Agentic系統導入之道 智慧應用 影音
D Book
236
Security Summit
DTtechmem

聖洋科技於台灣人工智慧年會解析Agentic系統導入之道

  • 周建勳台北

cacaFly聖洋科技受邀參加由台灣人工智慧學校主辦的2025台灣人工智慧年會。聖洋科技
cacaFly聖洋科技受邀參加由台灣人工智慧學校主辦的2025台灣人工智慧年會。聖洋科技

生成式AI帶動企業數位轉型浪潮持續升溫,各界不再滿足於單一任務型的AI應用,而是期盼AI能真正成為具備主動決策與多工能力的「智慧代理人」(Agentic AI)。

cacaFly聖洋科技受邀參加由台灣人工智慧學校(Taiwan AI Academy)主辦的2025台灣人工智慧年會,今年以「台灣AI競爭力」為主題,匯聚產官學研專家共同探討 AI 在企業及社會的落地應用與未來發展趨勢。

聖洋科技技術副總吳振和提到,要讓AI真正成為能「做事」的智慧代理人,前提是它必須理解企業內部的脈絡與知識,並即時掌握外部變動的資訊。聖洋科技

聖洋科技技術副總吳振和提到,要讓AI真正成為能「做事」的智慧代理人,前提是它必須理解企業內部的脈絡與知識,並即時掌握外部變動的資訊。聖洋科技

聖洋科技技術副總吳振和將導入Agentic系統工程的歷程,歸納為三個關鍵階段。聖洋科技

聖洋科技技術副總吳振和將導入Agentic系統工程的歷程,歸納為三個關鍵階段。聖洋科技

cacaFly聖洋科技技術副總吳振和CH Wu於會中以「Agentic系統工程:從PoC到Production的實踐與挑戰」為題,深入剖析企業如何從概念驗證(PoC)階段逐步推進到實際上線(Production),並分享實務經驗與挑戰觀察。

解鎖Agentic AI:企業邁向多任務智慧代理的願景

CH指出,企業對AI的期待已經從單一任務輔助,躍升為期望AI能夠自主處理多工任務,並串聯不同角色的工作流程。然而,要讓AI真正成為能「做事」的智慧代理人,前提是它必須理解企業內部的脈絡與知識,並即時掌握外部變動的資訊。 

「很多公司會問,One AI要做什麼事?但實際上,若要讓AI回答公司內部政策或新法條的相關問題,僅靠基礎模型並不足夠。」CH表示,企業必須先釐清內部規範是否與最新法規相符,這意味著系統必須具備持續爬取與解析最新資料的能力。

為此,企業必須先截取與整理內容,再建構成專屬的知識庫(Knowledge Base),確保資料品質達到可用標準後,再透過檢索增強生成(Retrieval-Augmented Generation;RAG)技術,使AI能夠即時動態查詢並生成符合企業語境的回答。

他強調,這是一個動態循環:從資料蒐集、品質控管、知識庫建構到生成應用,每一環都息息相關,任何一處鬆動都會影響最終產出的準確性與可信度。

PoC只是起點:從驗證走向落地的三個關鍵階段

CH進一步指出,許多企業對AI寄予厚望,因此常將PoC視為年度計畫的重點,希望能「一次到位」做出具體成果。然而,他提醒,若缺乏清楚的系統工程思維,PoC容易淪為「概念展示」,難以真正走入組織的日常營運。

CH將導Agentic系統工程的歷程,歸納為三個關鍵階段:

第一階段:可行性評估(Feasibility Study):企業必須在投入資源前,先明確界定「最需要被AI解決的關鍵問題」是什麼,並進一步設計可量化的驗證指標。這不僅包括評估技術實作的可行性,更要從商業目標出發,釐清導入AI的具體使用情境、預期成效與風險邊界,如此才能確保後續模型選型與資料蒐集方向正確對齊業務需求。

第二階段:系統設計與驗證(Design & PoC):在確定導入方向後,必須規劃清楚資料蒐集與整理流程,確保知識庫的內容具備正確性、完整性與時效性。CH特別強調,這個階段不能只追求展示效果,而應以「產品化思維」來構築PoC,使其具備可擴充性、可維護性及安全性,才能為後續上線打下基礎。

第三階段:產品化與營運(Production & Operation):當PoC驗證完成後,進入正式上線階段,挑戰也隨之而來。除了需要整合企業內部系統與流程,還必須建立持續監控與維運機制,確保模型表現隨時間演進不會劣化,並能快速回應法規變動或資料更新的需求。CH指出,這往往是最容易被低估、但也是最考驗企業組織能力的關鍵環節。

模型評估關鍵:打造高品質「黃金資料集」

CH在演講中特別強調,要讓Agentic系統工程真正發揮效益,企業必須先建立一套高品質的「黃金資料集(Golden Dataset)」,作為模型評估與優化的根基。他指出,黃金資料集的價值在於能為模型選擇與前測提供客觀依據,讓團隊能針對不同任務挑選最適合的模型,避免導入初期就誤踩方向。

同時,黃金資料集也能協助團隊辨識模型的常見錯誤與脆弱點,進而快速回應「模型飄移(Model Drift)」的風險。

CH說明,所謂模型飄移,指的是即使模型本身未經改版,效能也可能隨著環境與資料變動而突然下降,導致原本表現良好的模型出現偏差。透過持續比對模型預測與黃金資料集結果,團隊才能即時察覺效能衰退,並進行迭代更新,確保系統長期穩定運作。

建立正確心態:PoC不是終點  而是長期工程的起點

CH分享,在實際輔導企業導入AI的經驗中,最常見的挑戰源於「期待落差」問題。許多企業誤認為概念驗證(PoC)階段即可呈現完整的產品原型,然而實際情況顯示,若企業未能建立完善的資料架構與流程基礎設施,即使短期內展現亮眼成效,亦難以確保長期營運的穩定性與可持續性。

他呼籲企業在規劃AI導入時,應採取漸進式策略,從小規模應用場景著手,逐步擴展至核心業務領域。企業應將PoC定位為整體產品開發生命週期的重要環節,而非獨立的一次性專案。

AI的導入不僅是一場技術升級,更是企業組織文化與決策流程的轉型工程。唯有從資料治理、流程優化到人才培訓同步布局,才能確保AI能在企業內部真正「落地生根」,創造長期商業價值。

若企業對於AI的導入與應用有更多想法與討論需求,歡迎與cacaFly專業顧問團隊聯繫,攜手探索最契合企業需求的AI應用方案,邁向多任務AI的新時代。