AI重塑企業營運架構 數位勞動力成為治理關鍵 智慧應用 影音
231
Event
member

AI重塑企業營運架構 數位勞動力成為治理關鍵

  • 周建勳台北

(左)HPE 台灣暨香港董事長王嘉昇與(右)凌羣電腦總經理劉瑞隆。凌羣電腦

(左)HPE 台灣暨香港董事長王嘉昇與(右)凌羣電腦總經理劉瑞隆。凌羣電腦

當AI Agent(智慧代理人)逐步走進企業核心流程,從客服回應、文件審核到數據分析,甚至開始具備自主決策能力,企業的人力結構正悄然改變。

這些24小時運作的「數位員工」,確實帶來效率與彈性,但同時也帶來新的管理課題:AI在做什麼?誰來監管?成本是否可控?

HPE 台灣暨香港董事長王嘉昇與凌羣電腦總經理劉瑞隆觀察,企業導入AI已從初期的技術實驗,進入真正的營運階段。而關鍵挑戰也從「如何導入」,轉向「如何掌控」。

主權AI:從國家戰略走向企業營運核心

「過去談到主權,多半是國家層級的議題,但現在,企業也需要建立自己的AI主權。」王嘉昇指出。
所謂主權AI,是企業在自身環境中打造一套可自主運作的AI架構,如同一座「AI工廠」,從一開始就納入資料治理與營運管理機制,讓成本、效能與資安風險皆維持在可預測、可控的範圍內。

王嘉昇指出,主權AI,是企業在自身環境中打造一套可自主運作的AI架構,如同一座「AI工廠」,從一開始就納入資料治理與營運管理機制,讓成本、效能與資安風險皆維持在可預測、可控的範圍內。凌羣電腦

王嘉昇指出,主權AI,是企業在自身環境中打造一套可自主運作的AI架構,如同一座「AI工廠」,從一開始就納入資料治理與營運管理機制,讓成本、效能與資安風險皆維持在可預測、可控的範圍內。凌羣電腦

其中,「領域主權」(Domain Sovereignty)尤為關鍵。企業核心資料與營運流程,例如製造配方或金融交易資訊,不僅攸關競爭優勢,更涉及高度合規要求,難以完全交由公有雲處理。

劉瑞隆指出,公有雲在PoC階段具備高度彈性,但當AI應用進入長期運作後,企業往往面臨算力成本快速攀升,以及關鍵資料外流的風險。凌羣電腦

劉瑞隆指出,公有雲在PoC階段具備高度彈性,但當AI應用進入長期運作後,企業往往面臨算力成本快速攀升,以及關鍵資料外流的風險。凌羣電腦

劉瑞隆補充,公有雲在PoC(概念驗證)階段具備高度彈性,但當AI應用進入長期運作後,企業往往面臨算力成本快速攀升,以及關鍵資料外流的風險。因此,越來越多企業轉向Hybrid Cloud(混合雲)架構,在地端確保資料主權,同時保留雲端的彈性與擴展能力。

從PoC到生產環境:雲端成本的現實考驗

王嘉昇觀察,許多企業在PoC(概念驗證)階段習慣採用公有雲,因為不需要事前大量部署,能在短時間內驗證成果。然而,當專案從實驗轉為24小時運作的生產環境,算力成本往往迅速攀升,帶來不小的財務壓力。

他舉例,有員工在測試雲端AI時,短短數天內即產生可觀的運算費用;若進一步進入全年無休運作的AI應用,整體成本規模將更加驚人。

劉瑞隆也指出,公有雲「用多少付多少」的彈性,容易讓企業忽略長期成本與管理責任。尤其當資料全面上雲後,部分組織可能誤以為資安與合規由雲端業者負責,但實際上,雲端服務僅涵蓋基礎設施,資料本身的安全與合規仍須由企業自行承擔。

這也讓企業開始重新思考:在效率與成本之間,如何取得平衡?哪些工作負載適合上雲,哪些關鍵資料與應用,則必須留在地端掌握?

硬體採購思維轉變:從規格導向走向長期價值

隨著AI應用逐步進入企業核心營運,硬體採購邏輯也正在改變。

王嘉昇指出,過去企業多由各部門自行採購設備、各自運行專案,導致系統規格分散、資源無法整合,不僅造成浪費,也讓IT管理難度大幅提升。如今,企業決策者更關注整體資源調度效率與長期營運成本,而非單一設備規格或初期投入。

劉瑞隆則以賽車作比喻,企業發展AI就如同高性能競技,若依賴拼湊式的系統架構,一旦進入高負載運作,風險將快速放大。他指出,過去部分企業為了降低成本,採用白牌設備與自行整合架構,往往耗費大量人力時間,且一旦關鍵技術人員流動,系統維運將面臨斷層風險。

相較之下,導入整合性高且具備長期支援能力的平台,反而更有助於企業在效率、穩定性與成本之間取得最佳平衡。

建構AI工廠:HPE與凌羣的平台與應用分工

面對AI導入後的營運與治理需求,HPE與凌羣電腦分別從基礎架構與應用層面,協助企業打造可落地的「AI工廠」。

王嘉昇表示,HPE透過三層式策略協助企業建立AI基礎,包括顧問諮詢(Advisory),協助企業釐清工作負載與上雲策略;整合平台「HPE Private Cloud AI」,將算力資源、模型管理與資安控管整合為一體化系統;以及持續的營運與優化服務,確保AI環境能長期穩定運作。

然而,當AI從技術導入進入實際營運階段,企業真正需要的,已不只是算力平台,而是能被管理、被衡量的「數位勞動力」。

劉瑞隆指出,凌羣電腦提出「智慧電腦人」概念,將AI從單一工具進一步發展為可參與流程、承擔任務的數位員工。這類AI Agent不僅能執行任務,更具備規劃與決策能力,能在企業內部形成「前端互動、後端決策」的協作模式,讓AI真正進駐企業營運場域。

從技術架構來看,智慧電腦人結合大型語言模型(LLM)的推理能力,透過RAG(檢索增強生成)強化知識記憶,並搭配Agent架構進行任務規劃與執行,使AI不再只是回應問題,而是能被指派工作、完成任務的完整系統。

更重要的是,凌羣進一步建立「智慧電腦人管理架構」,協助企業將AI員工納入管理體系,透過量化其產能效率、替代效益與投入成本,使AI不再只是工具,而是可被管理、可被評估的組織成員。

以金融業為例,從徵信、風控到放款審查等流程,涉及高度專業與合規要求,透過將流程轉化為智慧電腦人並運行於穩定平台上,企業才能真正落實自動化,同時兼顧治理與風險控管。

在此架構下,HPE提供穩定且可擴展的運算基礎,凌羣則將產業know-how轉化為可執行的AI應用,雙方協同打造從底層算力到業務應用的完整AI解決方案。

AI成為員工:治理能力成為企業關鍵

當AI成為員工,企業更需要建立完善的治理機制。如果說主權AI解決的是「資料放在哪裡」,那麼更關鍵的問題,則是「誰來管理AI」。

劉瑞隆指出,未來企業將進入人類與數位員工共存的工作模式,AI Agent將成為重要的生產力來源。然而,關鍵不在於是否導入AI,而在於是否具備管理能力。「企業不能讓AI野蠻生長。」他強調,一旦缺乏監控與治理機制,AI 若做出錯誤決策或偏離規範,將可能帶來難以預期的風險。

因此,企業需要建立類似「數位人資」的管理架構,透過主控機制全面掌握AI行為,使其運作符合內部規範與法規要求,同時具備可追蹤與可管理性。當AI帶來效率與創新機會的同時,也同步放大風險與不確定性。唯有透過主權AI確保資料掌控,並建立完善的治理與監控能力,企業才能真正將AI轉化為可持續的競爭優勢。AI轉型,從來不只是技術升級,而是一場關於經營模式與管理思維的重構。