Google Cloud與NVIDIA合作推動人工智慧運算、軟體和服務
Google Cloud與NVIDIA今日宣布推出新的人工智慧基礎架構和軟體,提供客戶建立和部署大規模的生成式人工智慧模型,並加速資料科學工作負載。
在Google Cloud Next的一場爐邊對談中,Google Cloud 執行長 Thomas Kurian與NVIDIA創辦人暨執行長黃仁勳討論了這個合作夥伴關係如何將端到端的機器學習服務帶給全球最大型的人工智慧客戶,包括在基於 NVIDIA 技術建構的Google Cloud服務中,使運行人工智慧超級電腦變得更加容易。新的軟硬體整合使用了過去兩年來Google DeepMind和Google研究團隊所使用的相同NVIDIA技術。
黃仁勳表示:「我們正處於一個加速運算和生成式人工智慧相結合的轉折點,以前所未有的速度推動創新。我們與Google Cloud的擴大合作將幫助開發人員加速他們在基礎架構、軟體和服務等方面的工作,從而提高能源效率並降低成本。」
Kurian表示:「Google Cloud在人工智慧創新方面有著悠久的歷史,旨在促進和加速我們客戶的創新。許多Google 產品都是基於NVIDIA GPU 建構和提供服務的,我們許多客戶正在尋求 NVIDIA 的加速運算,以高效開發大型語言模型,從而推動生成式人工智慧的發展。」
NVIDIA的整合加速人工智慧和資料科學開發
Google用於建立大型語言模型(LLM)的架構PaxML,現已經優化以支援NVIDIA加速運算。
PaxML最初是為了跨越多個Google TPU加速器切片而構建的,現在使開發人員能夠使用NVIDIA H100和A100 Tensor Core GPU進行先進且完全可配置的實驗和規模。NVIDIA NGC軟體目錄中即刻起提供GPU優化的PaxML容器。 此外,PaxML在JAX上運行,JAX已針對利用 OpenXLA編譯器的GPU進行了優化。
Google DeepMind和其他Google研究人員是首批使用PaxML與NVIDIA GPU進行探索性研究的團隊。
NVIDIA NGC容器登錄服務中將立即提供用於PaxML的NVIDIA優化容器,提供全球正在構建新一代人工智慧應用的研究人員、新創公司和企業使用。
此外,兩家公司還宣布Google透過Google Dataproc服務將無伺服器Spark與NVIDIA GPU整合。這將幫助資料科學家加速Apache Spark的工作負載,以準備進行人工智慧開發所需的資料。
這些新的整合是NVIDIA和Google廣泛合作歷史中最新的進展。雙方發布多項軟硬體產品,包括:Google Cloud將在由NVIDIA H100提供動力的A3虛擬機器上運行 — Google Cloud 2023年8月30日宣布其以NVIDIA H100 GPU提供動力、專門構建的Google Cloud A3虛擬機器將在下個月正式推出,使NVIDIA人工智慧平台更易用於廣泛的工作負載。與前一代相比,A3虛擬機器的訓練速度提高了3倍,網路頻寬也有顯著的提升。
NVIDIA H100 GPU為Google Cloud的Vertex 人工智慧平台提供動力 — 預計未來幾週內,在 VertexAI上將普遍可用H100 GPU ,使客戶能夠快速開發生成式人工智慧大型語言模型。
Google Cloud將可使用NVIDIA DGX GH200 — Google Cloud將成為世界上首批能夠使用NVIDIA DGX GH200 人工智慧超級電腦的公司之一,該超級電腦搭載了NVIDIA Grace Hopper超級晶片,可用於探索其在生成式人工智慧工作負載方面的能力。
NVIDIA DGX Cloud將於Google Cloud上運行 — NVIDIA DGX Cloud人工智慧超級運算和軟體將可供客戶直接從網頁瀏覽器中使用,以提供高速和大規模的進階訓練工作負載。
Google Cloud Marketplace上提供NVIDIA AI Enterprise — 使用者能使用NVIDIA AI Enterprise,它是一個安全的雲端原生軟體平台,可簡化開發和部署企業級應用程式,包括生成式人工智慧、語音人工智慧、電腦視覺等。
Google Cloud率先提供NVIDIA L4 GPU —2023年稍早,Google Cloud隨著G2虛擬機器的推出,成為首家提供NVIDIA L4 Tensor Core GPU的雲端服務供應商。當客戶從CPU切換至L4 GPU以處理人工智慧影片工作負載,可提升高達120倍的效能、效率提升99%。L4 GPU廣泛用於影像和文字的生成,以及虛擬桌面基礎架構(VDI )和人工智慧加速的音訊/影片轉碼。
- 小螺絲到大數據:Bossard緊固件在AI伺服器的應用
- AMAX引領生成式 AI 與即時運動數據革命
- 思想科技助企業加速落實 AI 應用,完整顧問服務突破創新挑戰
- 首款AI心肺篩檢在國際亮相!展現台灣醫學影像創新實力
- 迎接後雙軸轉型時代 Google AI助攻台灣製造業邁向綠色企業
- 慧榮科技突破資料與功耗瓶頸 全新儲存技術加速AI應用發展
- 臺師大與麗臺攜手成立深度學習共同實驗室 推動AI技術在教育與產業的應用
- 精誠軟體獲國科會GenAI Stars生成式AI企業應用競賽「優質創新獎」
- 運用科技力守護民眾生命財產安全 精誠集團協力宜蘭縣政府部署AIoT智慧防災
- 晶睿通訊AI安防解決方案 導入全新AI功能RealSight Engine
- 西門子推出下一代AI加強型電子系統設計軟體
- F5與NetApp加速並簡化大型語言模型AI部署
- 新思科技與台積電攜手 為AI與多晶粒設計加速創新
- 友訊代理A10 Networks人工智慧新藍圖 驅動可靠安全環境
- 邊緣 AI:即時資料處理與自動化的革命
- 迎接AI時代:數產署與資策會運用AWS技術
攜手伊雲谷為企業打造黃金級競爭力 - 技嘉發表開創性的Z890主機板 展現真AI 制霸效能無極限
- 昕力資訊與iKala攜手拓展東南亞市場 首站支援越南製造業和金融業上雲
- AI視覺釋放LLM完整潛力,重塑智造管理
- Hitachi Vantara推出Virtual Storage Platform One為混合雲儲存提供基礎