Semidynamics發表Cervell全方位RISC-V NPU

Semidynamics（目前業界唯一提供全客製化RISC-V處理器 IP的供應商）正式發表Cervell：一款建構於 RISC-V架構上、可擴展且完全可程式化的神經網路處理器（NPU）。

Cervell將CPU、向量（Vector）與張量（Tensor）處理整合於單一架構中，實現零延遲AI運算，無論是邊緣裝置或資料中心規模的大型語言模型（LLMs）皆可應用。

Cervell在2GHz頻率下最高可提供256TOPS（每秒兆次運算），其設計可自C8擴展至C64組態，依據不同應用調整效能表現：從1GHz下的邊緣部署提供8TOPS（INT8），到高階AI推論所需的256TOPS（INT4）不等。

Semidynamics執行長Roger Espasa表示：「Cervell是為AI運算新時代而設計的產品 —— 現成方案已無法滿足需求。這款NPU提供從邊緣推論到大型語言模型所需的可擴展效能。而真正讓它與眾不同的是其架構：完全可程式化，無供應商綁定，採用開放的RISC-V指令集架構（ISA），並可深度客製至指令層級。配合我們的Gazillion Misses記憶體管理子系統，Cervell消除了傳統資料瓶頸，為晶片設計者打造高效能AI解決方案提供強大基礎。」

為何NPU至關重要？

AI正快速成為各行各業的核心競爭力，但傳統運算架構並非為此設計。NPU是針對AI所需的運算特性所打造，能加速資料分析、降低延遲並提升能源效率。對於需要部署大型模型或擴展邊緣智能的企業而言，NPU是實現效能與效率兼具的關鍵。

Cervell NPU專為加速矩陣密集型運算而設計，能在降低功耗的同時提升吞吐量，實現即時反應。透過將 NPU功能與標準CPU及向量處理整合為統一架構，設計者能有效消除延遲，並在各種AI應用（如推薦系統與深度學習）中最大化效能。

解鎖高頻寬AI效能

Cervell搭載Semidynamics自家突破性的Gazillion Misses記憶體管理子系統，具備以下特點：一，同時處理多達128筆記憶體存取要求，避免延遲；二，支援每週期超過60位元組的穩定資料串流；三，大規模並行存取晶片外記憶體，對於大型模型推論與稀疏資料處理至關重要。

這樣的設計讓NPU架構即便在高頻寬應用（如推薦系統與深度學習）中，仍能維持完整的管線飽和度。

為客戶需求而生的客製設計

如同Semidynamics所有核心產品，Cervell可依據客戶需求完全客製化，包括：一，增加純量（scalar）或向量（vector）指令；二，自行配置scratchpad記憶體與客製化I/O FIFO；三，自訂記憶體介面與同步機制；四，根據應用需求提出專屬功能開發。

在AI硬體差異化需求日益升高的今天，晶片設計者尋求在核心中嵌入專有技術的需求也持續攀升。許多IP供應商僅提供固定選項組合，而Semidynamics的差異化在於：支援RTL級別的深度客製，甚至可插入自定義指令，幫助客戶將「秘訣」融入核心設計，保護ASIC投資不易被模仿，同時在功耗、效能與晶片面積上取得最佳平衡。

搭配早期FPGA原型版本與平行驗證流程，Semidynamics協助客戶加快上市時間並降低開發風險。
此靈活性，加上RISC-V的開放性，讓客戶永遠不受綁、保有完全掌控權。