Skymizer正式推出ET2矽智財方案 以軟硬體平台方案為LLM打造更多想像
- 李佳玲/台北
Skymizer自向產業界宣誓進軍LLM(大型語言模型)矽智財市場後,近期宣布一系列以LLM矽智財為核心的軟硬體解決方案,希望能為LLM應用服務市場帶來更多想像空間。Skymizer的矽智財系列方案代號為EdgeThought(邊緣思維),其第一款推向市場的解決方案代號為ET2,它可以有效率地處理目前市面所有邊緣裝置所需要的LLM,也包括了近期所發布的Llama3,其參數規模高達80億。
Skymizer在推出矽智財方案前,主要的解決方案為編譯器業者,扮演晶片與軟體之間的橋樑角色,也因此對於整體系統軟硬體整合優化上擁有相當豐富的經驗,而隨著LLM需求水漲船高,同時也基於Skymizer擁有厚實的市場基礎下,所以也進軍矽智財市場,進一步來因應多元垂直應用的市場需求。
推出軟硬整合平台 ET2具備邊緣運算、LLM與AI推論三大元素
Skymizer執行副總魏國章表示,ET2基本上有三大基本元素:聚焦邊緣運算、LLM與AI推論,除了可以因應目前市場多種的LLM外,因應客戶需求,也能彈性擴充運算資源,若要處理的LLM的參數規模太大,那就藉由擴充方式來達到所需的算力等級,當然,所需要的記憶體容量與電力消耗,自然也會有所提升。
除了既有的矽智財方案外,Skymizer也推出SDK(軟體開發套件)SkyGenie,它能因應通用、領域與私人等不同類別的LLM,藉此可以協助不同的產業應用,讓軟體業者能基於不同的LLM類型開發出相應的應用程式,藉此讓整體系統的使用情境能達到最佳化的表現。
在COMPUTEX 2024展會期間,Skymizer也會在現場攤位進一步展示運用ET2等軟硬體解決方案打造出智慧工廠的AMR(自主移動機器人)、飲料店推薦系統與智慧汽車場景。誠摯邀請產業界先進至Skymizer Computex攤位參觀,攤位號碼:南港一館 AI運算暨系統解決方案區M1433a。
魏國章強調,正因為Skymizer擁有完整的軟硬體系統開發經驗,所以除了矽智財方案外,透過SDK的提供,藉此讓廣大的科技產業生態系統都能享受到Skymizer完整的軟硬體平台方案所帶來的益處。他也透露,目前市場所能看到的Edge AI GPU,其性能約莫在20 tokens /s左右,而Skymizer目前對於ET2的測試數據則在32 tokens /s上下,但導入成本卻只有Edge AI GPU的1/00,這對於成本敏感的終端應用來說,ET2具備極高的性價比,無異是相當理想的選擇。
搭載ET2方案首款晶片 將於CES 2025面市
所以現階段在半導體領域,魏國章也不諱言,Skymizer目前是抱持開放心態與國內外的設計服務、矽智財等業者正展開積極的合作。他更透露,ET2的擴充性非常高,小從IoT MCU,大到高性能Edge Server,尤其如搭配更高頻寬等級的記憶體介面,可以做到多人多批次的伺服器等級的推論引擎。預計第一款採用ET2的晶片,將於CES 2025面市,也因此,Skymizer將ET2形容為邊緣裝置LLM推論的遊戲規則改變者。
結論
Skymizer正式推出第一款矽智財方案ET2,意味著該公司正式進入全新的里程碑,透過豐富的軟硬體系統整合經驗,Skymizer不僅提供了高效能且具成本效益的邊緣運算解決方案,還透過SkyGenie SDK為開發者提供了強大的工具,以對應多樣化的LLM應用需求。這些創新不僅提升了不同垂直市場的應用表現,還為智慧工廠、自主移動機器人、智慧汽車等領域帶來了更多的可能性。Skymizer的全方位軟硬體平台方案,無疑將成為未來LLM應用市場的重要推動力量。想要了解更多Skymizer提供的解決方案,請至Skymizer官網查詢。
- NXP攜手系夥伴打造Brighter Together願景 探索與AI共存未來生活商機
- COMPUTEX 2024圓滿落幕 躍升為全球AI科技核心
- 上榜NVIDIA台廠供應鏈 IPC點亮邊緣AI商機
- 台灣科技產業「軟硬兼施」 全球新創不遠千里覓合作
- COMPUTEX 2024星光閃耀
AI PC與伺服器成台積電高性能運算成長動能 - 安提發布基於NVIDIA的次世代邊緣AI系統 引領工業與醫療領域AI應用新篇章
- PowerWalker不斷電系統登陸COMPUTEX高效電力備援助攻企業AI應用
- 生成式AI發展所面臨的倫理挑戰與未來競爭格局
- 先進AI晶片發展趨勢
- 翱翔智慧電梯原地轉型升級 搭載AI成為智能電梯
- 十銓科技創新推出 TEAMGROUP Model T USB 3.2 Gen 1隨身碟
- Avier@Earth與COMPUTEX 2024 展出友善環境及高速充電的解決方案
- MetAI攜手產業夥伴於COMPUTEX展示創新生成式模型技術
- 研華攜手群聯電子 打造更便利的AI模型微調解決方案
- 慧榮科技推出全新SSD單晶片控制器,為下一代 AI 智慧型裝置和遊戲機提供絕佳選擇
- 安提國際於COMPUTEX 2024發表NVIDIA MGX邊緣AI伺服器
- 運算推進時代 GIGABYTE於COMPUTEX趨動科技未來
- DEEPX執行長Lokwon Kim:打造讓每個人都能使用的AI晶片
- 智微科技與開酷科技將於COMPUTEX 2024展示雷達智慧感測解決方案
- BIOSTAR 映泰將於COMPUTEX 2024帶來全新AI運算解決方案
- 勤誠COMPUTEX秀肌肉 重磅展示AI、雲端伺服器機殼新品
- 趨勢科技守護全球AI驅動私有資料中心
- 十銓科技推出三款T-FORCE SIREN CPU 一體式水冷散熱器
- MetAI於COMPUTEX展示四分鐘生成模擬智慧物流中心的突破性技術
- APMIC於2024 COMPUTEX展示最新AI技術 讓每個員工都成為AI專家
- COMPUTEX 2024科技星光雲集 六大產業爭艷
- 聚焦七大電源主軸解決方案 COMPUTEX 2024明緯展現減碳技術能量
- NVIDIA、英特爾、超微、高通AI平台全押 華碩PC、伺服器火力全開
- Nordic Semiconductor加速整合低功耗短、中、長距離無線技術創新
- 科技巨擘築起AI算力高牆 彭双浪:機會在垂直場域數位轉型
- NVIDIA在台千人研發中心座落何處?黃仁勳先問一條件
- 英特爾淡看對手叫陣AI PC Gelsinger:還在找比較基準點
- Arm CEO:2025年將有1,000億台Arm裝置 迎接AI時代來臨
- 生成式AI技術發展與應用趨勢
- 威鋒電子宣布推出 PortSense 以AI人工智慧功能強化USB Hub管理
- 新思科技利用台積電先進製程加速新世代的晶片創新
- 台灣鎧俠於2024台北國際電腦展展示先進儲存技術與生態圈應用
- 驚艷COMPUTEX 鴻翊國際以智慧飯店與零售創新展示AI時代新型態POS
- TSLG耐落扣件防鬆價值解決方案提供者
- Brickcom引領全球無線技術趨勢 InstantFind系統締造物聯網資料傳輸
- 泓格科技引領綠色永續製造,共創美好未來
- 佈局5G、AI、物聯網
廣和通以智能創新力助產業轉型 - Skymizer正式推出ET2矽智財方案 以軟硬體平台方案為LLM打造更多想像
- 宜鼎擴充邊緣AI智慧應用與儲存 揭示Architect Intelligence品牌主張
- 十銓科技以「遊戲進化,AI 革命」主題 強勢登入COMPUTEX 2024
- Bahwan CyberTek 押注台灣科技生態系統
- 智微科技攜手開酷科技 震撼登場COMPUTEX 2024 創新是科技進步的火苗
- 迎廣展現一站式服務價值,AI生態系共創無限可能
- 慧榮科技總經理苟嘉章:AI應用轉變 儲存新技術需求大增
- 安提邊緣AI助力各行各業 COMPUTEX 2024展現全系列產品實力
- 宜鼎將於COMPUTEX展出多款嵌入式相機模組及獨家MIPI over Type-C技術
- DEEPX 即將在COMPUTEX 2024展現頂尖的AI創新
- 2024台北國際電腦展 公信電子聚焦電動車與企業資安解決方案
- 串聯AI 引領未來 COMPUTEX 2024匯聚全球科技力
- COMPUTEX 明緯展示電源實力 助力產業落實減碳願景
- 元信電子COMPUTEX 2024 迎接高容量SSD時代來臨
- InnoVEX 2024 匯聚逾30國新創團隊齊聚 展現創新動能
- 高通擴大PC平台產品線 傳已獲美系大客戶力挺
- 6月台灣很AI!黃仁勳COMPUTEX 2024開講 移師台大體育館受矚目
- 生成式AI硬體大本營 1,500廠商聚集COMPUTEX 2024
- COMPUTEX 2024 Forum從應用布局及硬體創新 深入剖析生成式AI新賽局
- CXL技術發展邁大步 COMPUTEX 2024可望躍升重要議題
- 超微為AI PC劃重點 蘇姿丰中國行說了什麼?
- NVIDIA、鴻海兩大巨頭GTC相見歡 劉揚偉透露6月COMPUTEX有驚喜
- COMPUTEX 2024 全球科技巨擘共同演繹AI與未來科技
- COMPUTEX 2024大秀AI肌肉 匯聚全球1,500家廠商
- NVIDIA、超微、英特爾三巨頭 將首度齊聚COMPUTEX 2024
- 高通執行長Cristiano Amon將於COMPUTEX 2024發表主題演講
- 微軟搭英特爾、高通 AI PC首波主秀在COMPUTEX