Imagination力推神經網路加速器 實現AIoT邊緣運算

Imagination業務開發資深總監Andrew Grant。

看好AI與IoT匯聚為邊緣裝置帶來的龐大商機，以PowerVR GPU在行動裝置市場佔有一席之地的IP業者Imagination科技公司，近來積極部署神經網路加速器(Neural Network Accelerator；NNA)產品，並強調以專用硬體的方式來執行AI神經網路運算，才能為汽車、工業、行動等各種智慧應用的邊緣裝置實現所需的功率、效能和成本。

Imagination業務開發資深總監Andrew Grant表示，AI已經有很長的發展歷史，但近年來受惠於晶片運算密度提升、運算成本降低、以及卷積神經網路(CNN)、迴圈神經網路(RNN)等技術的長足進展，帶動了AI應用的全新發展，並從行動裝置擴大到汽車、工業與機器人、智慧監控、汽車等各種市場。

特別是，伴隨著IoT的發展趨勢，AI可透過機器學習功能提升IoT裝置的價值，把收集到數據轉為有用的資訊，而IoT則可透過互連與資料交換為AI增加價值，兩者的互補將能發揮最大效益。而在頻寬、反應速度與隱私的考量下，把AI推論功能帶到嵌入式裝置，實現所謂的邊緣運算將是必然的趨勢。

Andrew Grant介紹了利用NNA實現高效能邊緣運算的使用案例。以智慧汽車為例，透過結合汽車上各種感測器與雷達，以及通訊基礎架構、雲端運算，可實現V2V或V2X應用，並逐步朝自動駕駛目標邁進。針對電子駕駛座艙(e-cockpit)，PowerVR GPU和NNA已廣泛應用在道路標誌偵測、導航、車道偏離警示、環景影像、後視鏡替代等各種新功能中。

在智慧城市，AIoT裝置更將無所不在，從各種公共場所所需的臉部辨識、物件偵測、交通監控、可疑活動/人物監控、到智慧工廠運作管理、辦公室安全等各種應用正蓬勃發展，而其中，透過AIoT裝置來進行感測、資料收集、傳遞與分析是實現智慧城市願景的要件，這將能為現有以及新興的半導體業者帶來極大的商機。

所有這些使用案例的設計，從一開始就需要考慮安全性和隱私。Imagination的GPU可提供虛擬化(virtualization)功能，把GPU分割為不同優先等級的虛擬機(VM)，確保執行重要汽車應用時的功能安全性。

相較於CPU、DSP等架構，Andrew Grant表示，GPU具備高度靈活性、標準化的運算API，並支援浮點與整數運算等優勢，而其NNA則是可配置的，能以特定領域的靈活性提供最低功耗，GPU與NNA的結合是把AI功能帶到邊緣裝置的最佳組合。因為，隨著客戶對於邊緣裝置上所需的AI功能已漸趨明確，須改以專用硬體架構來取代市場發展初期以軟體執行的方式，才能獲得最佳的效能、功率與成本。

目前，Imagination已為其PowerVR 3NX NNA產品線建立了完整的效能組合，從支援穿戴裝置的0.6 TOPS，一直到汽車與高階監控裝置所需的160 TOPS均已備齊，可支援包括Caffe、TensorFlow等常用神經網路的加速運算，以滿足多樣化AI應用的規格需求。此外，Imagination亦將強化與大學、合作夥伴的關係，致力於建立堅強的神經網路生態系統。

2019 COMPUTEX展期間，DIGITIMES將於5/30(四)假台北君悅酒店舉辦2019 COMPUTEX TAIPEI - 全球物聯網創新開發論壇，並由Imagination業務開發資深總監Andrew Grant領銜主講「Enabling the Edge: Neural Network Acceleration for smarter cities, cars and cameras」，如欲瞭解更多PowerVR GPU與NNA如何加速物聯網的廣泛應用與最新技術發展，歡迎即刻報名共創商機：https://www.digitimes.com.tw/seminar/DForum_20190530/。