借助NVIDIA技術 Akamai Inference Cloud實現AI從核心到邊緣的擴展

借助NVIDIA技術，Akamai Inference Cloud實現AI從核心到邊緣的擴展。Akamai

 負責支援並保護全球線上運作的雲端服務供應商Akamai Technologies, Inc.（以下簡稱：Akamai）今日正式宣布推出Akamai Inference Cloud。該平台透過將推論從核心資料中心擴展至網際網路邊緣，重新定義了AI應用的場景與方式。

Akamai Inference Cloud能夠在更靠近使用者與設備的位置進行智慧化推論。不同於傳統系統，該平台專為在全球範圍內提供低延遲、即時的邊緣AI運算而設計。此次推出的Akamai Inference Cloud，結合Akamai在全球分散式架構方面的深厚經驗與NVIDIA Blackwell AI基礎架構，對實現AI真正潛力所需的加速運算能力進行了顛覆性重構與擴展。

從個人化數位體驗、智慧代理到即時決策系統，下一代的AI應用程式迫切需要將AI推論部署於更靠近使用者的位置，以便在互動瞬間完成反應，並對請求的路由與執行路徑做出智慧化決策。

智慧代理的工作負載日益仰賴低延遲推論、本地環境感知以及即時全球擴展的能力。專為推動此變革打造的Akamai Inference Cloud，是一個分散式、生成式邊緣平台，可在更接近資料產生與決策執行的位置部署NVIDIA AI技術堆疊。

Akamai執行長暨共同創辦人Tom Leighton博士表示：「下一波AI浪潮的發展同樣需要更靠近使用者—正如網際網路當年能夠成長為今日的全球平台一樣。Akamai曾成功解決這一挑戰，如今我們再度迎接新一波機遇。借助NVIDIA 的AI基礎架構，Akamai Inference Cloud將在全球數千個節點上部署AI推論能力，以滿足不斷成長的運算與效能需求，從而實現更快速、更智慧、更安全的即時反應。」

NVIDIA創辦人兼CEO黃仁勳指出：「推論已成為AI中最密集的運算環節—並且必須在全球規模下即時進行。NVIDIA與Akamai的合作，正是將推論能力推進到更靠近每一位使用者的位置，提供更快速、可擴展性更強的生成式AI服務，釋放新一代智慧應用的潛力。」

Akamai Inference Cloud透過將智慧代理AI推論能力擴展至更靠近使用者與設備的位置，重新定義了AI應用的方式。該平台整合NVIDIA RTX PRO Server（配備NVIDIA RTX PRO 6000 Blackwell伺服器版GPU、NVIDIA BlueField-3 DPU與NVIDIA AI Enterprise軟體），並結合Akamai的分散式雲端架構 與遍布全球超過4,200個據點的邊緣網路。

Akamai Inference Cloud也將運用NVIDIA最新技術（包括新發布的NVIDIA BlueField-4 DPU），進一步加速並強化從核心到邊緣的資料存取與AI推論工作負載，推動Akamai實現其打造全球高可擴展、分散式AI架構的願景。

Akamai與NVIDIA攜手合作，透過Akamai Inference Cloud，以前所未有的方式推進AI推論，共同開創AI發展新篇章：

將企業級AI工廠延伸至邊緣，賦能智慧代理與個人化體驗：

AI工廠是強大的引擎，負責統籌管理從資料擷取到大規模智慧生成的完整生命週期。
Akamai Inference Cloud將AI工廠延伸至邊緣，使資料與處理能去中心化，並藉由Akamai廣泛的邊緣節點將請求路由至最佳模型。這讓智慧代理能即時因應使用者位置、行為與意圖，並自主完成即時協商、購買或交易最佳化。

支援串流推論與智慧代理，實現即時金融洞察與決策：

AI智慧代理往往需多次連續推論才能完成複雜任務，這可能導致延遲並降低使用者體驗。若每次推論都需遠端呼叫，則會造成網路延遲與反應遲滯。Akamai Inference Cloud的邊緣原生架構提供近乎即時的回應，使AI智慧代理能在多步驟流程中以接近人類的速度運作，在詐欺偵測、安全支付與工業邊緣即時決策等場景中發揮重大作用。

使實體AI具備超越人類的反應速度：

無人駕駛車輛、工業機器人與智慧城市基礎設施等實體AI系統，需要毫秒級決策能力才能安全地與真實世界互動。Akamai Inference Cloud旨在為這些系統賦能，使其能即時處理感測資料、進行安全判斷並協調行動，讓工廠產線、配送無人機、手術機器人與智慧交通網路都能成為與人類安全協作、反應迅速的智慧體系。

加速價值實現：

在多個雲端區域編排複雜的分散式AI工作負載需要專業技能與團隊。Akamai Inference Cloud的智慧編排層可自動將AI任務路由至最佳地點—常規推論透過邊緣的NVIDIA NIM微服務 即時執行，而複雜推論則交由集中式AI工廠處理。所有流程皆由單一平台統一管理，大幅降低基礎架構的複雜度。Akamai Inference Cloud 現已正式上線，首波部署將涵蓋全球20個地點，並計劃持續擴展。

了解更多關於Akamai Inference Cloud的訊息，請瀏覽我們的網站。