生成式AI引領產業變革　台灣打造全球智慧島

DIGITIMES於11月20日舉辦「探索GenAI生態系：從技術創新到市場應用論壇」，邀集多位產官學界專家深入剖析生成式AI的技術脈動與市場趨勢。DIGITIMES攝

生成式AI發展加溫，算力需求大增，晶片、伺服器、散熱、SI平台等軟硬體產業生態系亦須隨之進化，方能掌握隨之而來的龐大商機。DIGITIMES於11月20日舉辦「探索GenAI生態系：從技術創新到市場應用論壇」，就邀請多位產官學界專家，深入剖析生成式AI的技術脈動與市場趨勢。

國發會副主委詹方冠在致詞時指出，生成式AI應用範疇已擴及各產業，其重要性堪比蒸汽機、電力及電腦等重大技術革新。根據預測，AI在未來3年內的普及率將從5%躍升至80%以上，2032年市場規模可達1.3兆美元。為提升台灣AI產業競爭力，政府推出全方位策略，包括投入逾120億元建置AI超級電腦及資料中心，並匡列100億元與產業合作投資AI相關企業。在產業轉型方面，政府將協助台灣逾160萬家企業導入AI，預計4年內每年輔導10,000家製造業導入AI，透過上述具體政策作為，期望建構完整AI生態系，實現全球AI智慧島的願景。

生成式AI全面啟動 產業龍頭布局各展所長

工研院資訊與通訊研究所副所長黃維中接著指出，人工智慧技術歷經數十年的演進，隨著大型基礎模型的出現，生成式AI在各領域展現強大潛力，從內容創作到商務服務皆有顯著突破。然而，生成式AI的發展仍面臨諸多挑戰，生成式模型可能產生幻覺(Hallucination)問題，而且也需要關注如何確保資料機密性與隱私保護。產業發展需要妥善處理資料整合、算力分配、演算法可信度及模型選擇等關鍵議題。展望未來，小型化大語言模型(sLLM)預計於2030年達171.8億美元市場規模，年複合成長率約17.8%。智慧代理(Agentic AI)則預估在2028年佔日常決策15%的應用比例。對台灣而言，生成式AI帶來文創內容、商務服務、研發製造、以及企業與供應鏈的效率提升機會，同時也為新創產業開創發展空間。

技術快速精進的生成式AI，其價值已逐漸在各領域浮現。AWS專業領域架構師團隊總監Young Yang在演講中以Amazon的AI購物助理Rufus為例表示，此平台透過Bedrock模型建構的知識圖譜與COSMO系統，能涵蓋18大商品類別，提供從商品比較到場景建議等全方位服務。在導入生成式AI時，企業可採取雙軌策略：一是尋找Quick Wins，以AI優化現有流程，快速展現價值；二是規劃長期戰略性應用，為企業創造持續性效益。AWS雲端採用框架(CAF-AI)提供完整指引，值得注意的是，在選擇應用場景時，須評估數據充足度、傳統演算法可行性，以及投資報酬率等面向。

台灣IBM人工智慧暨資料解決方案技術工程師江豪文博士，則以生成式AI在製造業的應用與治理為題，提出專業建議。他提到生成式AI正在製造業展現多元應用價值，從IBM AutoAI工具在光電製造的聲音異常偵測(準確率99%)，到導入AI對話系統整合維修手冊，使維修時間縮減65%、人員培訓從3個月減至3週，都展現顯著成效。在供應鏈管理方面，AI協助整合碳足跡與能源數據，實現ESG目標管理與風險監控。然而，AI應用發展同時面臨治理挑戰，為因應挑戰，IBM推出watsonx平台，透過watsonx.ai提供AI訓練與部署功能，watsonx.governance可實現生命週期監控、風險管理與法規遵循，協助製造業順利推動轉型。

系統運算能力與AI效能表現息息相關，AMD台灣區商用業務處資深技術顧問陳信宏指出，AMD Instinct平台以創新技術提升高效能運算(HPC)與AI工作負載效能，其中Instinct MI300A整合24顆ZEN4核心與128GB HBM3記憶體，提供5.2 TB/s的記憶體頻寬，並支援硬體加速的CPU-GPU記憶體一致性。平台透過ROCm開源軟體生態系統，提供完整的軟體堆疊支援，包含多種AI與HPC數學庫，並實現從NVIDIA CUDA的無縫移轉。即將於2025年推出的AMD Instinct MI350系列，採用3nm製程與288GB HBM3E記憶體，進一步強化新一代AI模型的運算能力。平台與Meta等合作夥伴緊密合作，支援主流生成式AI模型，並持續擴展機器學習管線，為企業提供高效能、高擴展性的AI解決方案。

生成式AI正為製造業帶來全方位升級契機，從電路設計、生產排程到倉儲管理皆有顯著應用。緯謙科技副總經理李冠儀提到，緯謙科技透過多雲解決方案，整合Azure OpenAI與自建AI算力中心，並結合流程雙生（Process Twins）技術，實現大語言模型與自動化數據處理的深度融合。其創新架構從傳統App-driven轉向Data-driven模式，以數據為核心，透過LLM與AI代理人執行智慧決策。在實務應用中，緯謙科技已成功支援超過500個轉型案例，並取得Microsoft Azure專長認證，更與中華電信合作完成5G智慧工廠應用。透過RAG技術與API快速整合ERP、MES、SCM等系統，緯謙科技打造垂直整合的應用場景，協助企業在工業4.0浪潮中提升競爭力。

致力於生成式AI和知識管理解決方案開發的蓋亞資訊，已於2024年成為全台首家取得AWS AI Competency認證的企業。業務經理陳勁瑋提到，該公司開發的NAVI企業AI知識管理系統，透過AWS Bedrock串接多種大語言模型，支援多元檔案格式處理與影片深度分析，並提供Open API實現系統整合。在應用場景方面，NAVI系統廣泛應用於醫療用藥分析、金融報告處理、智慧客服等領域，有效減少人力需求並提升數據處理效率。系統特色包含Text2SQL資料庫整合與即時語音支援，並計劃在未來版本中擴充HTML檔案支援與客服聊天機器人功能。在安全性方面，NAVI提供多層級權限管理，支援Windows AD和Azure AD認證，確保企業數據安全。

深化AI應用優勢 跨域專家剖析台灣發展願景

生成式AI技術、應用與政策發展，已成為當今產官學界關注議題。DIGITIMES研究中心分析師兼專案經理黃耀漢在演說時表示，生成式AI的發展仰賴LLM、高效能運算晶片以及多模態數據支援等三大要素。在台灣，生成式AI應用已深入半導體與電子製造業，預計2025年將進入早期大眾應用階段，DIGITIMES 2024年9月問卷調查樣本顯示，50%企業計劃於3年內導入AI技術。

然而，產業發展仍面臨諸多挑戰，包括先進製程產能不足、HBM供應緊張，以及邊緣運算設備的記憶體與效能限制。展望未來，生成式AI將朝向邊緣運算與雲端運算協同發展，LLM也將發展出更多特定應用的M型化模型，企業須結合自身需求選擇適合的AI解決方案，同時強化數據治理與運算基礎建設，以降低導入門檻。

整合混合多雲架構，建立敏捷的數據基礎設施，是企業善用生成式AI，加速數位轉型進程的重要策略。Nutanix台灣技術總監鄭建華指出，該公司透過全軟體定義架構，提供統一的混合多雲解決方案，支援從傳統到容器化的多元應用部署。隨著預計2027年全球90%組織將在生產環境運行容器化應用，Nutanix Kubernetes平台(NKP)提供純正Kubernetes環境，確保無供應商綁定並簡化部署管理流程。在AI應用方面，Nutanix GPT-in-a-Box 2.0支援多樣化的生成式AI應用，從內容生成到企業定制模型，並透過生態系統合作擴展應用範疇。其數據導向的部署模式整合GPU雲與開源軟體，並強調數據中心與邊緣協作，可協助企業順利推動轉型。

第四次工業革命來臨，企業必須同步推動技術與組織的雙軌智慧升級。生成式AI協會理事長陳靖騰建議，在技術層面，企業需持續投入研發並累積專利；在組織層面，則要善用品牌策略與股權規劃。他特別強調，AI時代的消費行為將從傳統的文字搜尋與網頁瀏覽，轉變為透過AI Agent進行資訊整合與購買決策，企業必須及早因應這波轉變，優化AI Agent的搜尋排名。企業可考慮將行銷部門獨立成立智慧品牌公司，並善用「台灣AI」的國際聲譽，搭配精準的關鍵字策略提升品牌能見度，結合既有的技術實力與創新的組織轉型，在全球AI浪潮中站穩關鍵地位。

除了精彩演講外，這次論壇也邀請聯發科技企業策略與前瞻技術資深處長梁伯嵩、Appier企業溝通副總周峯玉兩位深具業界指標的專家，與IC之音《姚姚Tech666》節目主持人姚嘉洋，從不同角度進行座談。

聯發科技資深處長梁伯嵩以「整合生成式AI，啟動EdgeAI新紀元」為題指出，AI發展歷程中的關鍵時期為2006年智慧型手機興起後，大數據、運算力與演算法三者齊備，促使AI快速發展。聯發科除了投入中文大型語言模型的開發，更推出「MediaTek DaVinci」中文暱稱為「聯發科技達哥」的企業AI服務平台，協助台灣產業運用生成式AI技術。他強調，該平台不僅整合繁體中文語言模型，更加入企業營運所需的智慧助理功能，目標是提供產官學研各界完整的AI應用環境。

針對Edge AI的發展，梁伯嵩表示台灣在半導體產業具備優勢，但不應僅著重在硬體製造。AI運算需求以每十年增長1億倍的速度成長，遠超過處理器效能提升的幅度，因此如何在終端設備實現高效能AI運算是重要課題。他建議台灣善用半導體優勢，開發創新的Edge AI解決方案，透過AI Agent的概念，讓小型化的模型也能發揮強大效能，並在節能與效能間取得平衡，藉此在全球AI發展浪潮中創造更高價值。

周峯玉則在「台灣SaaS產業迎向生成式AI新浪潮-從在地優勢到全球視野」議題中提到，台灣發展SaaS產業具備獨特優勢，包括充沛的工程人才以及堅強的半導體產業基礎。由於國內市場規模受限，台灣SaaS企業必須具備國際視野，從創立初期即瞄準海外市場發展。周峯玉副總強調，SaaS服務的成功關鍵在於精準定位特定市場需求，透過持續優化產品找到最佳市場契合點，並善用數據管理自動化來提升營運效率，方能在國際市場中建立競爭優勢。

在生成式AI浪潮下，台灣SaaS產業面臨新的發展契機。她以Appier為例，結合生成式AI與預測式AI技術，能更有效地分析用戶行為並快速產出客製化內容，大幅提升行銷效益。周副總建議台灣企業應發揮在地優勢，優先聚焦於智慧醫療、智慧工廠等垂直應用領域，透過精準解決產業痛點、持續創新增值，以及與客戶建立長期夥伴關係等策略，在全球SaaS市場中創造獨特價值。

從此次論壇的專家演講與現場來賓熱烈互動，可見生成式AI已成為企業數位轉型的關鍵推手，透過產官學研通力合作，台灣正以堅實的科技實力與靈活的創新思維，在全球AI浪潮中掌握新契機，為產業發展注入嶄新動能。