谷歌下月上線 A3 實例：搭載英偉達 H100，可提供 26 exaFlops AI 性能
2023-08-31 08:49:43|
來源：IT之家 作者：
(資料圖)
IT之家 8 月 31 日消息，Google Cloud 在今天召開的云 Next 大會上，宣布下月上線 A3 虛擬機實例。谷歌云在今年 5 月召開的 I / O 開發(fā)者大會上宣布 A3 實例，最大的亮點在于配備英偉達 H100 Tensor Core GPU，滿足生成式 AI 和大語言模型的需求。
IT之家此前報道，A3 實例采用了第 4 代英特爾至強可擴展處理器、2TB DDR5-4800 內存，以及 8 張英偉達 H100“Hopper”GPU，通過 NVLink 4.0 和 NVSwitch 實現了 3.6 TBps 的對分帶寬。
新的 A3 超級計算機“專門用于訓練和服務要求最苛刻的人工智能模型，這些模型為當今的生成人工智能和大型語言模型創(chuàng)新提供動力”。據介紹，這款超級計算機可以提供 26 exaFlops 的人工智能性能。
谷歌云在今天的發(fā)布會上還介紹了全新的 TPU v5e，是迄今為止最具成本效益和可訪問的云 TPU。這些 TPU 或定制 ASIC 旨在加速 AI 和 ML 工作負載。
SDxCentral 報道稱，TPU v5e 相比較前代，每美元的訓練性能提高了一倍，每美元的推理性能提高了 2.5 倍。
相關閱讀：
《谷歌推出 A3 Virtual Machines 超級計算機：搭載英偉達 H100，可提供 26 exaFlops AI 性能》
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。
標簽：
