技嘉引領AI時代 偕AMD加速人工智慧與LLM運算應用突破

技嘉引領AI時代 偕AMD加速人工智慧與LLM運算應用突破。技嘉

2024年甫出爐的諾貝爾物理學獎得獎者為霍普菲爾德（John J. Hopfield）與辛頓（Geoffrey E. Hinton）。他們利用物理學來訓練人工神經網路的研究自1980年代開始，為現代的深度學習和AI發展奠定了關鍵基礎。做為生成式AI伺服器及先進散熱技術的領導者，在深度學習有著無限可能的現今，技嘉科技子公司技鋼科技不斷創新，攜手AMD推出EPYC 9005系列處理器伺服器與AMD Instinct MI325X加速器伺服器，具備領先的效能與效率，以應對日益複雜的AI運算需求。

此次產品釋出同時針對部分現有使用SP5平台的伺服器進行BIOS更新，首波更新即涵蓋了60多款伺服器與企業級主機板，這些產品均可具備卓越的效能，專為第5代 AMD EPYC處理器設計，為客戶提供強大的運算能力。此外，針對最新推出的AMD Instinct MI325X加速器，同步設計了全新伺服器，並將於11月19日至21日在亞特蘭大的SC24大會上亮相。

GIGABYTE伺服器全面升級，BIOS同步更新

為能深入各類工作負載，GIGABYTE更推出從模組化伺服器到企業級主機板等多樣化解決方案，這些伺服器將支援AMD EPYC  9005系列處理器。XV23-ZX0是其中一款備受矚目的新解決方案，採模組化伺服器設計，配備兩顆AMD EPYC 9005處理器插槽，支援最多四張GPU卡及三個額外的FHFL插槽，同時2+2冗餘電源供應位於前端更加易於維護。

GIGABYTE旗下多款基於AMD EPYC 9004系列處理器的伺服器與主機板，將透過兩波更新陸續支援AMD EPYC 9005系列CPU。客戶可透過產品頁面查看，並下載相應的BIOS更新。由於單通道配置的記憶體速度在不同世代之間的差異，客戶務必查看產品頁面以確認是否支援6000 MT/s的速度。

AMD技術邊界再突破

AMD EPYC 9005系列處理器是EPYC系列中的最新成員，提供多達192「Zen5c」核心與384執行緒，時脈速度最快可達5 GHz，並具備更大的快取容量。這些處理器針對AI資料中心設計，提供領先的效能與效率，以及x86軟體相容性，它們能支援從企業AI啟用計劃到大規模雲端基礎設施，再到承載關鍵業務應用的各種應用，提升能源效率並減緩資料中心的擴展。基於AMD EPYC 9005系列CPU的伺服器為計畫在運算和AI解決方案領域領先的企業提供了最佳選擇。

AMD Instinct MI325X加速器以AMD CDNA 3架構樹立了AI效能新標準，憑藉領先業界的記憶體與6 TB/s的頻寬，最佳化系統效能並降低總擁有成本（TCO）。與AMD ROCm軟體結合的新AMD加速器支援關鍵AI框架，簡化部署過程。AMD Instinct MI325X加速器將與GIGABYTE基礎設施無縫整合，並對OpenAI、PyTorch、Hugging Face、Databricks、Lamini等生態系統夥伴提供強大的零時差支援，幫助企業高效增長。

技鋼科技副總經理王俊民表示：「能夠以相同的插槽支援新一代AMD EPYC處理器是令人相當印象深刻的。特別是考慮到我們在EPYC 9005系列處理器上看到更增強的效能表現。」他補充道：「AMD Instinct MI325X這樣的技術持續突破運算和AI的極限，我們感謝能夠與AMD保持緊密合作，在今日攜手同步發布更新。」

AMD伺服器業務資深副總裁Ravi Kuppuswamy指出：「AMD是領先資料中心解決方案的首選，無論是推動企業AI計劃、構建大規模雲端部署，或本地的業務應用，我們最新的第五代AMD EPYC處理器，具備卓越的效能、靈活性和可靠性，並且與資料中心生態相容，能為現今資料中心的獨特需求量身定制解決方案。」

AMD企業發展副總裁Travis Karr表示：「AMD正引領著AI革命！我們的Instinct™加速器表現突出，為生成式AI效能和能力立下全新基準。」他補充道：「我們最新的Instinct™ MI325X加速器基於CDNA™3架構，擁有業界領先的256GB HBM3E記憶體，使企業能夠高效擴展最複雜的AI工作負載，推動自然語言處理、電腦視覺等領域前所未有的進步。」

GIGABYTE閃耀登場 Advancing AI 2024

在Advancing AI 2024大會現場，GIGABYTE展示了其最新發布的伺服器，且唯一一款單節點具備48 條記憶體插槽的伺服器——R283-ZK0「鋸齒排列」伺服器。此外更展示了針對AMD Instinct MI325X GPU的全新8U伺服器設計概念，這是一款經改良的8-GPU主板伺服器，將為大型語言模型和AI推論提供超乎想像的解決方案。