以新一代LPU催生多樣化AI代理 Skymizer助力構築智慧未來世界 智慧應用 影音
長庚大學
Event

以新一代LPU催生多樣化AI代理 Skymizer助力構築智慧未來世界

  • 李佳玲台北

Skymizer行銷長暨執行副總經理 魏國章。Skymizer
Skymizer行銷長暨執行副總經理 魏國章。Skymizer

想像一下在忙碌的工廠生產線上,人類領班正指揮機器人作業員有條不紊地進行電子產品組裝與測試等任務,彼此合作無間、取長補短,讓工作效率與品質大幅提升;還有機器人管家能24小時全年無休地貼身照顧行動不便的獨居銀髮長者,確保他們的安穩生活與身心健康;而在交通繁忙的上下班通勤路途中,聰明幽默、會相互溝通的「夥計」(也許你還記得1980年代最紅的電視影集《霹靂遊俠》(Knight Rider)載著乘客們平安順暢抵達目的地,還能幫忙預約想去的餐廳!

以上這些我們以為在科幻電影或小說裡才會出現的場景,即將在不遠的未來於日常生活周遭發生──隨著生成式AI技術持續演進,被導入各種邊緣裝置實現智慧功能,且朝著整合影像、語音、文字等不同資料的多模態(multimodality)形式,以及更具自主能力、可即時互動的代理式人工智慧(Agentic AI)等方向發展,一旦相關軟硬體解決方案更成熟、更容易取得與使用,就會看到大型語言模型(LLM)推論應用的大爆發。

HyperThought- Skymizer next generation LPU。Skymizer

HyperThought- Skymizer next generation LPU。Skymizer

看準這波邊緣AI商機,以編譯器軟體起家、目前專注提供AI晶片加速器IP的市場新秀臺灣發展軟體科技(Skymizer),繼在2024年台北國際電腦展(COMPUTEX Taipei)期間正式發表名為EdgeThought的語言處理單元(Language Processing Unit,LPU)之後,將於2025年度COMPUTEX推出功能更強大的新一代LPU──HyperThought,期望能協助開發者輕鬆、迅速針對特定AI應用打造專屬IC,扮演構築智慧未來世界的關鍵力量。

在初代LPU基礎上再進化

Skymizer行銷長暨執行副總經理魏國章表示,與第一代LPU EdgeThought相比較,HyperThought的最
大進展就是對多模態AI、模型並行執行(Concurrent)以及代理式AI應用的支援;他解釋:「這類應用整合語音、文字與影像等不同類型的資料輸入與輸出,需要更複雜的運算,HyperThought支援我們自主開發的最新3.0版本語言指令集架構(Language Instruction Set Architecture,簡稱 LISA),能大幅提升 LLM推論專用晶片的運算效率與功耗表現,同時助力廠商降低在邊緣端裝置上開發AI代理等新興應用的複雜度與成本。」

2025年HyperThought系列LPU以Skymizer獨家編譯器技術為核心,可將硬體利用率和效率最大化,在最小的晶片面積上實現高達95%的MAC利用率,因此即使在資源有限的邊緣裝置,亦能實現優異的AI推論任務執行效能。透過先進的混合精度量化技術,該LPU能有效縮小模型權重、減少記憶體資源佔用,同時維持一定的準確度。除了不必採用最先進半導體製程節點生產而帶來的成本競爭力,HyperThought也具備可擴展彈性,能因應從消費性電子、物聯網(IoT)裝置、手機、PC、汽車到邊緣伺服器等多樣化硬體設計
需求,致力於扮演生成式AI應用普及化的重要推手。

以半導體晶片約18到24個月的開發週期來看,最快2025年底前就可以看到內含HyperThought的ASIC或智慧產品問世,讓終端使用者親自體驗邊緣AI的威力。奠基於第一代LPU的成功,將在2025年COMPUTEX期間亮相的HyperThought聚焦更具發展潛力的AI代理應用,準備好迎接新一波的AI革命。

聚焦更具自主能力的AI代理

AI代理就是更具自主能力的智慧助理,能根據使用者的目標與習慣,主動分析、決策並執行多步驟任務;魏國章指出,AI代理形容就像是功能更進階的Apple Siri,它們不僅是能理解人類的語意、以自然語言回應,還能自主在後端處理被交辦的事項並直接提供成果,而非只是開啟一個個App。AI代理可扮演溝通能力與互動性更強的客服,化身秘書協助規劃行程並預訂機票、酒店等任務,或是代替人類進駐險惡的工作環境(如森林大火災區),依據現場情況即時決策,執行設備控制、因應緊急情況等動作;還有就像《霹靂遊俠》影集中男主角李麥克的那輛智慧車「夥計」,除了會自動駕駛,還能協助主人完成各種任務。

這些複雜的AI代理任務對運算資源與即時回應能力有極高要求,以往得仰賴雲端平台來執行,隨著使用者對隱私機密資料的重視,以及部分應用對低延遲的特別要求、或是部署地點連網不易等考量,再加上由DeepSeek掀起的AI大模型「蒸餾」熱潮,預期未來會有愈來愈多案例部署於邊緣端,而HyperThought正是為此趨勢而生。

魏國章強調,Skymizer是業界少數具備指令集架構開發能力的公司之一,不僅LPU能彈性支援包括Arm、RISC-V等各種CPU架構,適應不同算力規模的設計,還能提供各種應用所需的軟體堆疊,讓AI代理可以更流暢地在手機、PC、車載系統甚至嵌入式裝置中運作。隨著生成式AI加速演進,Skymizer將與產業生態系夥伴以及開發者社群緊密合作,讓LPU成為推動AI從「工具」變成各行各業與人們日常生活不可或缺之「助手」或「夥伴」角色的核心技術。欲進一步了解Skymizer解決方案,可參訪Skymizer官方網站。

關鍵字
商情專輯-COMPUTEX 2025