打造屬於台灣的AI助理 宸泗與Twinkle AI以國網中心算力推動在地智慧應用 智慧應用 影音
D Book
236
Microchip
member

打造屬於台灣的AI助理 宸泗與Twinkle AI以國網中心算力推動在地智慧應用

  • 林佩瑩台北

Twinkle AI創辦人黃亮勳。Twinkle AI
Twinkle AI創辦人黃亮勳。Twinkle AI

隨著生成式AI技術快速演進,如何在有限資源下開發具在地語言理解能力的 AI,成為台灣團隊共同面臨的挑戰。開源社群Twinkle AI與宸泗工作室攜手合作,以推動「繁體中文AI落地」為使命。其中Twinkle AI專注於模型的訓練與優化,而宸泗工作室則負責打造並落地智慧助理的實際應用。

本合作結合財團法人國家實驗研究院國家高速網路與計算中心(國研院國網中心) TAIWAN AI RAP高效能生成式AI應用開發平台的高效能運算資源,共同推出專為台灣人設計的智慧助理「愛悠AI」頻道,期望解決中小團隊在模型訓練與算力資源上的困境,讓AI真正走進台灣的日常生活。

宸泗工作室的首席工程師吳泗槿表示,工作室近年聚焦AI導入實務,推出整合在Line上的「愛悠AI」智慧助理。此平台結合Twinkle AI開源繁體模型與在地化資料處理,藉由智慧搜尋、新聞摘要與藝文活動查詢等功能,打造台灣語言與資訊環境的AI服務。

Twinkle AI創辦人黃亮勳指出,繁體中文模型開發初期,團隊面臨兩大瓶頸:一是繁體中文資料量不足,模型訓練效果受限;二是運算成本高昂,難以支撐長期迭代。Twinkle AI透過國網中心RAP平台取得大規模GPU算力與繁體中文特化模型資源,成功突破瓶頸。

研究團隊運用平台上既有的繁體模型,以蒸餾技術萃取高品質推論資料,生成開源繁體推理資料集,並以此訓練出台灣最小的推理模型F1(Formosa-1)。對宸泗工作室而言,AI RAP的API與專家型模型更讓愛悠AI能快速導入醫療、長照與防詐應用,大幅縮短開發週期。

多模型協同驅動在地創新  愛悠平台拓展AI公共應用潛能

在開發過程中,Twinkle AI與宸泗工作室運用RAP平台的算力與模型資源,共同打造具在地語言理解力的AI平台。兩團隊建立多模型協同架構,整合外部搜尋與內部資料來源,並加入自動過濾廣告與詐騙內容的能力,全面提升資訊可信度。平台上線後,已提供在地新聞摘要、藝文活動查詢與非專業醫療建議等服務,逐步展現AI在地化落地的成效。

團隊也正與政府單位合作推動AI防詐專案,將搜尋與對話能力延伸至公共安全領域,開啟更多實際公共應用場景。接下來,Twinkle AI將持續深化模型的在地知識與多模態理解能力,使AI能更好地處理圖像、語音與文化脈絡;宸泗則將拓展在政府與公共領域的應用合作,涵蓋長照陪伴、防詐識讀與公共資訊整合,讓AI成為最貼近台灣民眾的智慧夥伴。