國網中心運算資源助攻 陽明交大AI輔助半導體設計架構開發案獲突破 智慧應用 影音
Digikey
DForum0808

國網中心運算資源助攻 陽明交大AI輔助半導體設計架構開發案獲突破

  • 林佩瑩台北

LLM自動搜尋Attention運算中各個矩陣乘法之tile size的結果,其中的score代表對應參數組合所需的運算延遲(latency),可作為效能評估依據。陽明交大
LLM自動搜尋Attention運算中各個矩陣乘法之tile size的結果,其中的score代表對應參數組合所需的運算延遲(latency),可作為效能評估依據。陽明交大

晶片架構日趨複雜,傳統設計流程面臨前所未有的挑戰。異質整合與多核心運算等新興架構設計快速演進,導致設計空間與參數維度急遽擴增,而傳統仰賴工程師手動試誤的模式已難以應付全域最佳化探索需求。陽明交大人工智慧系統檢測中心利用國網中心H100 GPU叢集資源,推動「基於大型語言模型之新興晶片架構設計系統」專案,在AI輔助半導體設計領域取得初步突破,為台灣晶片設計產業注入新動能。

陽明交大人工智慧系統檢測中心系統架構師蔡明軒表示,軟硬體協同設計的工作負載對應與任務排程,已成為效能最佳化的關鍵瓶頸,現有主流語言模型多為通用語言任務訓練,缺乏硬體語意理解能力,無法精準處理晶片設計中的技術語彙與參數邏輯。此外,設計驗證流程自動化程度不足,導致開發週期冗長、錯誤率提升。

國立陽明交通大學人工智慧系統檢測中心系統架構師蔡明軒。陽明交大

國立陽明交通大學人工智慧系統檢測中心系統架構師蔡明軒。陽明交大

AI輔助設計系統成效浮現 產學合作開創半導體新契機

為解決上述技術痛點,該專案整合大型語言模型與高效能運算平台,建構語言模型驅動的設計空間探索(LLM-driven DSE)系統。專案採用國網中心提供的HGX H100 GPU裸機伺服器,配置8顆GPU,為百億參數等級語言模型的訓練與微調提供充足算力支援。

蔡明軒提到,該團隊已於專案前設定明確的量化技術目標:模型訓練效率提升3倍以上、設計建議準確率提升超過50%、模擬驗證流程自動化率達80%。透過AI協助探索,預期新晶片架構功耗可降低10-15%,研發週期縮短25%。

目前平台已完成初步系統整合與模型原型建置,可針對簡化運算任務提供設計建議,並完成語料建構與模擬平台串接。實際使用H100資源後,模型訓練效率確實超過原預期的3倍提升,可完整訓練數十億參數規模的語言模型,支援多任務與多模型同時部署。

對於下一步專案目標,蔡明軒提到,目前語言模型對EDA語意掌握仍不充分,對設計參數、EDA工具語彙等語意理解具有侷限性。模型泛化能力有待提升,初期訓練主要集中於特定運算架構,對異質平台應用需進一步優化。

此外,設計資料受限於產業保密性與標註成本,語料擴展速度未達理想,現階段模擬系統仍以簡化模型為主,需提升與實際運行效能對齊的精準度。

目前團隊已展開語言模型輔助晶片設計探索的實際應用,針對特定運算單元提供參數設計建議,並建立模擬流程自動化測試原型。未來規劃將系統模組化推廣至封裝設計、異質整合等場景,並擴展至AI加速器、車用晶片、IoT晶片等產品線。

商品化方面,計畫將語言模型驅動的設計建議引擎打包為模組化API,與EDA工具串接作為智慧設計輔助模組。同時規劃與國內外EDA廠商洽談技術整合合作,並透過建立標準化語料集與模型訓練架構,支援學界在IC設計教育中導入AI輔助設計教材。

關於這次與國網中心的合作體驗,蔡明軒認為國網中心可為資源有限的研究團隊提供與國際接軌的運算條件,大幅縮短技術驗證週期,以該團隊為例,其初步成效就包括縮短晶片開發週期約25%、釋放資深工程師超過一半的重複性工作時間,並建立具知識留存與傳承功能的AI輔助設計框架。

他強調這次合作不僅為台灣半導體設計產業導入前瞻技術,更展現產學研合作在推動關鍵技術突破方面的重要價值,為台灣在全球半導體競爭中維持技術領先地位注入新動能。