生成式AI浪潮衝擊產業 重塑嵌入式設備樣貌
- 鄭茨云／DIGITIMES企劃
-
生成式AI掀起全球科技革命浪潮，從內容創作到產業應用，此技術正以前所未有的速度重塑嵌入式產業面貌。為協助產官學各界掌握市場發展脈動，DIGITIMES特於3月13日舉辦「生成式AI重塑嵌入式未來」論壇，邀請多位專家，深入剖析產業脈動與技術發展趨勢。
生成式AI技術已成為科技產業創新的核心驅動力，瑞昱半導體副總經理黃依瑋表示，生成式AI正全面重塑嵌入式系統架構，透過優化處理器、GPU、記憶體與系統設計，使嵌入式系統獲得更強大的學習能力與即時決策能力。
瑞昱秉持「Connect the World」的核心使命，致力於透過有線與無線連接技術串聯各類設備，實現萬物互聯的願景。他強調，AI系統效能與其連結能力息息相關，設備與AI連結越緊密，智能表現越卓越，瑞昱不僅提供通訊解決方案，同時涵蓋人機交互技術，為雲端與邊緣運算間的AI發展建構完整支援架構。
目前AI技術突破的關鍵在於Transformer架構，其自注意力機制大幅提升語言理解能力。未來生成式AI將與嵌入式技術深度融合，為產業帶來顛覆性變革。
研華產品經理盧昱臺也表示，邊緣AI運算市場正蓬勃發展，預計2033年市場產值將達1,436億美元，應用場景廣泛涵蓋無人機、自主移動機器人、醫療影像及機器視覺等。相較於公有雲AI，邊緣AI具備固定可預測成本、完全掌控數據隱私及內部可控安全機制等優勢，研華提供的GUX AI工具可有效解決企業在資料安全、導入實施及預算等方面的挑戰。
研華DeepSeek AI透過完整的邊緣AI產品線，包括EAI加速模組、AIR系列推論系統及伺服器，結合Hailo、Intel、NVIDIA等AI軟體生態，加速Vision AI、生成式AI等應用場景落地。研華內部已成功將AI應用於供應鏈管理、研發設計及生產製造等部門，接下來將持續透過「研華AI趨勢小聚系列」推動AI文化，建立Multi-Agent協作機制，以生態共創模式加速AI發展與導入。
隨著物聯網裝置朝向輕薄短小發展，微控制器的尺寸與功耗效率成為決定產品競爭力的關鍵因素。德州儀器(TI)現場應用工程師陳彥廷提到，TI MSPM0系列MCU特色為超小型2x2mm QFN封裝，結合ARM Cortex-M0+核心(24MHz)與先進類比功能。
支援1.62V-3.6V電壓及125°C高溫環境，MSPM0C系列提供8KB-16KB Flash記憶體及內建12-bit ADC。此系列產品特別適合空間受限的應用，包括家電、建築與工業自動化及個人電子設備等領域。
MSPM0C具備ADC轉SPI/I2C/UART、I/O擴展、電源時序與電壓監測等子系統設計功能，並支援200μs快速冷啟動時間及最高16個ADC輸入通道。TI提供完整的軟體與開發工具生態系統，可協助工程師快速開發並實現產品原型。透過內建軟體範例與即插即用的程式，開發者能有效縮短產品上市時間，同時保持極具競爭力的成本水準。
工業4.0浪潮席捲全球製造業，設備間的無縫通訊與高效連結已成為智慧工廠轉型的關鍵基石。Hilscher &亞德電子Head of APAC Market Management Mr. Olaf Kratge表示，該公司為專業工業通訊解決方案供應商，透過遍布全球的分支機構與當地經銷商及技術合作夥伴網路，提供專業技術支援與服務。
Hilscher的核心優勢為多協議netX技術，可同時支援PROFINET、EtherNet/IP、Modbus TCP、EtherCAT、CC-Link IE及時間敏感網路(TSN)等多種工業網路標準，大幅提升系統整合彈性。產品線涵蓋高效能通訊晶片、靈活的協議支援模組，廣泛應用於工業自動化、智慧工廠及邊緣運算領域。
Hilscher持續投入技術創新，確保產品符合最新工業通訊標準，特別側重工業物聯網與智慧工廠應用的發展。未來將持續提供即時、安全、高效的通訊解決方案，確保產業設備具備高可靠性與靈活性，協助製造企業實現數位轉型與智慧製造目標。
隨著物聯網與邊緣運算技術快速發展，嵌入式系統面臨的電氣完整性與信號品質挑戰日益複雜，高精度測量工具成為工程師解決設計難題的關鍵夥伴。
台灣是德科技技術工程師邱柏勝提到，嵌入式系統的每一環節皆需精確測試以確保系統穩定性，其電源系統測試主要包括電源供應抑制比、電源轉換、電源分配與功耗等項目，針對嵌入式系統訊號測試，邏輯分析工具可對數位訊號進行時序與協議層分析，協議層測試則透過波形觸發解析數據傳輸異常。
物理層測試則需移除測試線與夾具影響，並藉由數位電壓計與計數器進行高精度測量。是德科技提供從InfiniiVision HD3系列(200MHz-1GHz)到Infiniium高效能即時示波器(500MHz-110GHz)的完整產品線，並推出全新隔離探棒，協助工程師有效因應嵌入式設計的多重挑戰，實現高品質的系統整合與創新應用。
物聯網設備數量快速成長，網路安全已從選配功能轉變為產品設計的核心要素，端點到雲端的全方位安全防護成為當前最迫切的技術挑戰。意法半導體(ST)技術行銷經理吳祥民在論壇中，介紹如何從硬體層級建構堅實的安全防護體系。
目前ST的STSAFE產品線包含入門級的STSAFE-L、中階STSAFE-A、高階STSAFE-TPM等三大系列，其中STSAFE-L系列適用於電池身份驗證、資產生命週期追蹤及消耗品防克隆等應用場景。STSAFE-A系列可應用於智慧家庭設備、醫療設備及電源供應系統。
STSAFE-TPM系列可強化加密標準，特別支援後量子加密與TPM韌體自修復技術。ST進一步提供安全生產與零接觸雲端配置服務，透過內部工廠進行安全個人化處理，預先加載加密金鑰與X.509憑證，減少客戶在生產過程中處理敏感資料的風險，同時可與三大公有雲服務直接連接，大幅簡化客戶的安全導入流程。
邊緣運算與人工智慧技術的融合正重新定義智慧設備發展方向，ADI應用工程師Neal Huang提到，ADI針對此趨勢提供豐富的嵌入式解決方案，其產品線涵蓋AI處理、無線通訊與低功耗運算多領域，其中RISC-V無線協同處理器強調低功耗高效能，旗艦產品MAX7800x系列AI微系統晶片包含MAX78000與MAX78002，分別針對影像與語音識別優化及提供強大運算能力。
為支援開發者，ADI提供完整開發平台如MAX78000FTHR等開發套件，並基於VS Code構建開放原始碼開發環境CodeFusion Studio，支援Zephyr RTOS快速開發。該平台透過圖形化介面、多核心同步除錯功能提升開發效率，ADI已規劃詳細產品藍圖，從支援新晶片到整合更多功能，並通過技術支援中心、EngineerZone討論區等管道提供全方位支援，致力協助開發者發揮產品潛力，推動智慧邊緣創新應用快速落地。
創新技術挑戰市場格局 智慧邊緣與AI加快嵌入式創新腳步
RISC-V正逐步挑戰Intel x86與ARM的市場地位，台灣RISC-V聯盟會長暨晶心科技董事長林志明指出，研究機構SHD Group的報告指出，2030年起全球每年將有超過160億顆RISC-V晶片流通，應用範圍涵蓋MCU、FPGA、GPU、DSP、安全晶片及AI等領域。晶心科技自2016年起專注RISC-V發展，現已推出30餘款RISC-V CPU IP及AI加速器，產品線從簡單控制器擴展至高效能AI/HPC運算。
在AI應用方面，RISC-V具備向量處理器、客製化指令集擴充及可運行Linux與Android的架構優勢。晶心科技AX45/46 MPV系列支援128-bit到2048-bit向量長度，並搭配高頻寬向量記憶體介面與BF16數據格式，有效提升AI運算效能。
晶心科技ACE技術提供向量運算與資料流擴充，已獲Meta、Renesas等客戶應用於資料中心、AIoT及大語言模型應用。接下來RISC-V將從控制應用擴展至DSP、向量運算，最終進軍應用處理器市場。
數位轉型已成各產業發展主軸，邊緣智慧從輔助角色進化為企業核心競爭力。Wind River Key Account Manager Bruce Sun指出，現已有75%的機器生成資料在邊緣端進行處理，傳統資訊科技架構已難以因應相關運算需求。
完整的智慧邊緣生態系需整合從感測元件至雲端服務的多層架構，同時支援異質運算平台。作為關鍵任務系統的領導廠商，Wind River深耕5G CaaS(Container as a Service)市場，旗下專為AI與大數據應用打造的eLxr Pro企業級Linux作業系統，採模組化架構設計，不僅能適應硬體資源受限環境，更提供強大的資安防護機制與即時CVE資安漏洞修補功能。
Wind River同時發布了以Debian為基礎的eLxr開源專案，全面支援K8s容器調度技術，針對分散式運算環境最佳化且免費開放社群使用。在市場布局策略上，Wind River與日本樂天電信子公司Rakuten Symphony結盟，將eLxr Pro整合至其雲端產品組合，並導入Container Native Storage技術，共同強化AI應用及邊緣運算資安防護能力。
AI與運算能力呈爆發性成長，GPU資源管理已躍升為企業數位轉型與AI創新的核心課題。INFINITIX數位無限科技執行長陳文裕指出，AI專案成功落地的關鍵在於GPU算力資源的有效管理，數位無限科技自主研發的AI-Stack企業級AI基礎設施管理平台，透過創新的GPU切割與資源聚合技術，實現GPU動態調度。
該平台提供3種GPU配置模式，GPU分割技術適用於多個輕量級AI模型同步運行；GPU聚合架構則最適合大規模AI模型訓練；GPU混合配置模式則能同時兼顧AI訓練與推論服務需求。
從實際導入案例可見，AI-Stack能將GPU資源利用率大幅提升至90%，AI訓練與推論效能提升10倍，開發環境建置時間從2週縮短至1分鐘，整體投資效益顯著成長10倍。此平台更支援日夜交替的資源排程策略，同時支援NVIDIA + AMD異質平台運算架構，可彈性配置H200 GPU執行AI訓練工作負載，L40S GPU則專責推論作業，有效降低不同GPU架構的導入學習曲線。
除了多位專家的精彩演講，論壇也邀請DIGITIMES研究中心專案經理暨IC之音節目主持人姚嘉洋與滿拓科技執行長吳昕益，以「雲端到邊緣，AI運算的嵌入式時代來臨」為題交換意見。吳昕益指出，在2022年前，邊緣AI運算主要聚焦在電腦視覺領域，但2022年下半年後，AI模型參數暴增1000倍，為嵌入式系統帶來巨大挑戰。
2023至2024年間，產業焦點已轉向如何將大語言模型(LLM)遷移至邊緣裝置，DeepSeek的出現更加速了這一趨勢。滿拓科技已與研華等工業電腦廠商合作推出Edge Server，開拓嵌入式AI市場。
值得注意的是，2024年第2季起，小型大語言模型(SLLM)成為產業新焦點，目標是在百美元以下的低成本裝置上實現AI推論，但這仍面臨硬體成本與記憶體頻寬的技術瓶頸。
嵌入式AI技術的發展也帶來多項關鍵技術突破與市場機會，知識增強(Knowledge Injection)技術讓企業能夠使用較小的13B參數模型取代70B以上的大模型，有效降低運算成本。
半導體技術方面，混合封裝技術縮短了運算晶片與記憶體晶片間的距離，大幅提升AI運算效能，且目前28nm與12nm製程即可滿足邊緣AI需求。未來，AI將深度整合至人機介面，包括智慧家電與汽車，而台灣廠商在ASIC客製化晶片設計方面具有獨特優勢，可快速投入AI晶片開發。
展望未來3至5年，他認為低功耗AI晶片將成為主流，以適應「輕薄短小」的嵌入式應用需求，不過中美貿易戰可能持續影響供應鏈布局，台灣企業需審慎因應國際局勢變化。
