智慧手機進化停滯 大廠AI晶片問世再添助力
- DIGITIMES企劃
-
雲端架構逐漸普及，嵌入式系統的應用隨之起飛，尤其是AI在近兩年開始啟動後，各類型嵌入式設備的功能越來越強大，然而向來與其他嵌入式設備同步發展的智慧型手機，近年來出現停滯現象，大多應用程式都只在停留在酷炫有趣階段，更智慧的應用仍未到位，台大資工系教授洪士灝指出，原因出在目前軟硬體效能仍不足，智慧手機必須更智慧，才能有進一步發展。
以全球最大的社群媒體臉書使用者為例，現在許多人上臉書所使用的手機都是2~3年前的產品，運作依然順暢，再加上其他上網、相機等程式也不需要過於強大的效能，因此對硬體功能的需求並不高，這對AI的發展並非好事。未來如果AI要順利啟動，現在的手機效能顯然不足，不過是硬體刺激需求成長，還是需求帶動硬體規格的提升？洪士灝也認為這是雞生蛋、蛋生雞的問題，很難一刀切出責任歸屬所在，只是他也指出，現在的手機功能的確還需要再演化。
要因應AI趨勢再演化，需要解決的問題相當多，下一代的手機不僅運算能力要足夠，隨之而來功耗問題也必須解決，而且這些問題不能用軟體繞過，要以硬體真槍實彈的解決。目前各晶片廠商也意識到此問題，紛紛著手研發加速器，發展比GPU更適用的深度學習專用晶片。不過他也指出，此類型的產品仍有門檻高、開發複雜、函式庫陽春，再加上供應商的開發工具支援不足等問題，這都降低了廠商的投入意願，因此市場都將眼光放在Google、NVIDIA等大廠身上，希望推出高效能、易開發的AI產品。
為符合本身機房需求並降低耗電，而且不願意投入鉅額費用購置GPU，Google在2014就已設計出自用的TPU，2015年佈署在自家的資料中心，不過一直到最近才開始將產品釋出到市場。洪士灝指出，Google向來強調開放性特色，Google Cloud NEXT 2018推出的AI晶片Edge TPU訴求小體積、高處理能力、可運作輕量版的TensorFlow Lite，並且內建加速器，可將運算資源移轉到大型電腦的類神經網路。Google希望藉此複製過去Android的做法，在AI領域再創另一個產業生態系，透過大量廠商的使用測試，將觸角延伸到更多應用場域。
Google的頻頻動作也讓GPU大廠NVIDIA轉趨積極，其Tegra行動處理器本就以手機市場為目標，後因成效不佳退出。不過NVIDIA在GPU仍有優勢，之後轉戰嵌入式應用推出Jetson系列產品，近期問世的Jetson AGX Xavier處理器，則再次強化規格，具有8個64bit Arm處理器核心與512個Volta架構的CUDA Tensor Core，尺寸只有10cm x 10cm。此外NVIDIA最近再推出Jetson Nano，不但效能更強、體積再一次縮小，而且價格比Google的高效能TPU低50美元，搶攻智慧物聯網市場的意味十足。
從過去沒有晶片可用，到現在兩大廠分別推出產品，手機效能的進化看似指日可待，但洪士灝認為升級並非無痛，仍需要相關技術基礎才能發揮效益。他比較Google Edge TPU與NVIDIA Jetson AGX Xavier兩款AI運算晶片，若以效能與功耗比，Edge TPU較適合手機。然而TPU雖有工具可將運算資源移轉到其他平台，但過程中仍有許多細節需要微調，若對架構安排不熟盲目移轉，將損失TPU的整體運算效能，而要解決此一問題，他建議可將資源分開，數量較大的數據就近傳輸到電信商機房運算，尤其是未來5G上線後，其高速、高頻寬與低延遲特色，將進一步拓寬手機的AI應用。
AI被視為各類型智慧化系統的必要技術，結合物聯網而成的AIoT也成為政府與產業的重點發展架構，然而從這幾年的發展來看，應用成效並不彰。洪士灝指出，晶片效能對系統功能與應用發想影響極大，而系統功能不佳，民眾自然無感，這也是近年物聯網雷聲大雨點小的原因之一。
近期大型廠商紛紛推出高效能運算平台，嵌入式系統的選擇大增，現在開始會有更多的嘗試機會，從而開發出更多應用，因此他十分看好接下來的發展，智慧手機與嵌入式設備也將開始邁入下一個智慧世代。
2019嵌入式技術論壇即將於4/17(三)假台北萬豪酒店盛大舉辦，台大資工系教授洪士灝於會中將深入剖析「AI嵌入式系統的軟硬整合開發」，活動並邀集AMD、聯發科、TI、研華、宜鼎、Vicor等大廠連袂發表最新技術趨勢，內容包含AI雲端邊緣運算、AIoT、5G、48V電源等最新進展，歡迎即刻報名以保留入場席位：https://www.digitimes.com.tw/seminar/DForum_20190417/。
