邊緣 AI:即時資料處理與自動化的革命 智慧應用 影音
Event
EVmember

邊緣 AI:即時資料處理與自動化的革命

  • 吳冠儀台北

從Alexa、Google和Siri等智慧家庭助理,到汽車偏離車道時通知駕駛的先進駕駛輔助系統(ADAS),這些越來越常見且更加重要的裝置倚靠邊緣AI提供即時處理能力。邊緣AI在裝置內直接運用人工智慧,其運算位置靠近資料來源,而非具有雲端運算能力的異地資料中心。邊緣AI能縮短延遲時間、加快處理速度、降低持續連網的需求,並減少隱私方面的疑慮。這項技術代表資料處理方式的重大變革,而隨著世界對即時智慧的需求升高,邊緣AI將繼續在許多產業發揮強大影響力。

邊緣AI最重要的價值是能為關鍵應用提供出色的速度表現。有別於雲端/資料中心AI,邊緣AI並非透過網路鏈路傳送資料,及期待在合理時間內獲得回應。反之,邊緣AI在本機執行運算,因此具有優異的及時回應能力。邊緣AI能應付許多情況,例如在工廠作業中線上執行機械視覺應用,以及一秒內迅速得知產品可能轉移。同樣地,沒有人會希望汽車根據雲端網路或伺服器的回應時間來發出訊號。

運用邊緣 AI 進行即時處理

許多即時活動使得人們越來越需要邊緣AI。這項技術的常見用途如智慧型家庭助理、ADAS、病患監測和預測性維護等應用。無論是快速回應居家問題、在汽車偏離車道時發出通知,或是將葡萄糖讀數傳送至智慧型手機,邊緣AI能迅速做出回應並將隱私疑慮降到最低。

邊緣AI在供應鏈領域發揮奇效,多年來有目共睹,尤其是在倉儲及工廠。過去十年內,這項技術在運輸業的運用也相當可觀,例如送貨無人機在穿越雲層等條件時。此外,邊緣AI正在為工程師成就大事,尤其是在醫療科技此一關鍵成長領域。 例如,開發心律調節器和其他心臟裝置的工程師,能為醫生提供可尋找異常心律的工具,指引何時應尋求進一步的醫療介入。醫療科技將持續使用越來越多的邊緣AI,並建置更多能力。

生成邊緣AI模型

日常生活中有越來越多系統現在都與機器學習有一定程度的互動,因此工程師和開發人員務必要瞭解這個領域,才能規劃與使用者互動的未來。

ML技術是邊緣AI最強大的發展機會,此技術根據統計演算法進行模式匹配。這些模式可能包括感測到有人在場;感測到有人剛說了某個詞彙喚醒智慧家庭助理,例如「Alexa」或「嘿,Siri」;或感測到馬達開始晃動。對智慧家庭助理而言,喚醒詞是一種在邊緣執行的模型,不需要將語音傳送到雲端。即可喚醒裝置,讓裝置準備好接收進一步的指令。

ML模型有幾種生成方式,可以使用TensorFlow或PyTorch等整合式開發環境,也可使用Edge Impulse等 SaaS平台來生成。建構良好的ML模型時,大部分的「心力」都集中於建立具代表性的資料集和妥善標示此資料集。

目前,監測式模型是邊緣AI最流行的ML模型,此模型根據標示和標記的樣本資料進行訓練,其中輸出是一個可供檢查是否正確的已知值,如同老師全程查看和訂正作業一樣。這種訓練通常用於分類工作或資料迴歸等應用。監測式訓練雖然可能很實用且準確性高,但非常依賴標記的資料集,也可能無法處理新的輸入。

執行邊緣 AI 工作負載的專用硬體

DigiKey是實作邊緣 AI的得力助手,因為這通常在微控制器、FPGA和單板電腦上執行。DigiKey與供應商合作,提供數代在邊緣處執行ML型號的硬體。今年發表了幾款出色的新硬體,包括NXP的MCX-N系列,很快也會備妥ST Microelectronics的STM32MP25系列。

過去幾年,來自創客社群的開發板因執行邊緣AI而廣受歡迎,包括SparkFun的邊緣開發板Apollo3 Blue、AdaFruit的EdgeBadge、Arduino的Nano 33 BLE Sense Rev 2和Raspberry Pi 4或5。

神經處理單元目前在邊緣AI領域取得進展。NPU是一種專用IC,旨在加速處理以神經網路為基礎的ML和 AI應用;其結構以人腦為基礎並含有許多互連層,以及負責處理和傳遞資訊的節點。目前打造的新一代 NPU具備專屬數學處理能力,包括NXP的MCX N系列與ADI的MAX78000。

邊緣裝置也出現專用的AI加速器產品,該領域尚未獲得定義;著名的開拓先鋒包括Google Coral和Hailo 公司。

ML感測器的重要性

搭載ML模型的高速攝影機在供應鏈領域行之有年, 用途包括決定將產品送到倉庫內何處,或是在生產線中找出瑕疵品。 供應商目前正在建立低成本的AI視覺模組,這種模組能執行ML模組以識別物體或人類。   

雖然執行ML模型需要搭配嵌入式系統,但未來將會持續推出AI賦能型電子元件,包括AI賦能型感測器,又稱為ML感測器。雖然多數感測器加入ML模型後並不會為應用帶來更高的效率,但ML訓練能讓幾種感測器的運作方式變得更有效率得多:攝影機感測器,其中可開發 ML 模型來追蹤畫面中的人和物體,IMU、加速計和動作感測器,用於偵測活動概況。

某些AI感測器預先載入可隨時運作的ML模型。舉例來說,用於感測人體的SparkFun評估板經過預先編程,能偵測人臉並透過QWiiC I2C介面回傳資訊。Arduino Nicla Vision或Seeed Technology OpenMV Cam H7等幾款AI感測器更具開放性,且需要為其尋找的東西準備訓練的ML模型。

利用神經網路提供運算演算法,便能在人和物體進入攝影機感測器的視野時加以偵測及追蹤。

邊緣AI的未來

隨著許多產業日漸發展且越來越依賴資料處理技術,邊緣AI將越來越普及化。隨著達到更快、更安全的裝置資料處理能力,邊緣AI將出現巨大創新突破。我們認為有幾個領域日後很快將會壯大,包括:一、運算神經網路演算法的專用處理器邏輯。二、低功率替代方案的發展 (雲端運算的能源消耗量相對較龐大)。三、更多整合式/模組選擇,像是結合內建感測器和嵌入式硬體的AI視覺零件。

隨著ML訓練方法、硬體和軟體的進化,邊緣AI將能呈指數成長,並為許多產業提供支援。DigiKey努力掌握邊緣AI趨勢脈動,期盼以豐富的解決方案、流暢互動體驗、工具與教育資源,支援全球的創新工程師、設計人員、製造商和採購專業人士,為其提高工作效率。想深入瞭解邊緣AI的資訊、產品和資源,歡迎造訪 DigiKey.com/edge-ai。(本文由DigiKey技術行銷工程師Shawn Luke提供,DIGITIMES吳冠儀整理。)

議題精選-AI專欄