天天實時:基準測試表明英特爾Gaudi2加速器較英偉達A100更具特定優勢
在 2019 年以 20 億美元收購了以色列 Habana Labs 后,英特爾推出了 Gaudi2 數據中心加速卡,并將之與面世已有兩年的英偉達 A100 進行了對比。事實上,Habana 制造了兩種專用加速器 —— 除了面向神經網絡訓練的 Gaudi2,還有主打推理任務的 Goya / Greco 。
訪問:
(資料圖)
阿里云“無影云電腦” 支持企業快速實現居家辦公
雖然早在 5 月就發布,但 MLPerf 公共數據庫直到上周才接收到它的基準測試成績。
由其分享的圖表可知,Gaudi2 系統的分數,被拿來和英偉達 / 戴爾的 A100 系統進行了橫向比較。
首先,ResNet-50 能夠測試硬件在 AI 圖像分類工作上的表現。可知 Habana 的 Gaudi2 系統只需 18 分鐘就通過測試,而英偉達 A100 系統需要將近半個小時。
其次,Gaudi2 只用了 17 分鐘來訓練 BERT 模型,較 A100 系統快了大約一分鐘。作為一個自然語言處理(NLP)模型,這項測試使用了來自維基百科的文章來訓練。
雖然所有測試平臺都使用了八卡加速器 / GPU,但 Habana 系統搭配了雙路 40 核的 Intel Xeon 8380 CPU,而英偉達系統則采用了雙路 64 核的 AMD EPYC 7742 CPU 。
規格方面,Gaudi2 具有 24 個張量處理(TPC)內核 + 并行運行的兩部分矩陣乘法(MME)引擎。其支持包括 FP32、TF32、BF16、FP16 和 FP8 在內的廣泛數據類型。
此外 Gaudi2 有一個專用于處理音視頻輸入的媒體引擎,集成 48MB 內部緩存 + 板載 96GB(6×16GB)HBM2e 高帶寬內存,總帶寬達到了 2.45 TB/s 。
連接方面,該加速器使用了 PCIe 4.0 x16 接口、輔以 24 個 100 Mbps RoCE2(RDMA over Converged Ethernet 2)端口。
需要指出的是,英偉達 A100 / H100 的功能要更加全面一些,Gaudi2 在某些特定任務上更具優勢。
不過就算英偉達早在三個月前就發布了 H100 新品,Gaudi2 還是有望成為 A100 的一個有力競爭對手。
訪問購買頁面:
英特爾旗艦店
相關文章:
英特爾開始推出Habana Labs Gaudi2 Linux驅動程序代碼
推薦
-
-
-
-
-
-
-
-
英特爾在封裝設計中開發嵌入式電感全集成穩壓器 用于穩定3D堆疊系統功率
英特爾公司在封裝設計中開發了一種嵌入式電感的全集成穩壓器(Fully Integrated Voltage Regulators,...
來源:愛集微 -
直播更多》
-
什么是海洋環境預報 如何精準預報海洋災害?
海洋災害是指海洋自然環境發生異常或激...
-
商湯科技市值跌破千億大關 投資者對商湯未來預期擔憂
今日商湯港股開盤后繼續大跌,截至發稿...
-
什么是海洋環境預報 如何精準預報海洋災害?
海洋災害是指海洋自然環境發生異常或激...
-
長沙地鐵6號線何時通車 長沙地鐵6號線最新消息
6月28日,長沙地鐵6號線啟動初期運營載...
-
我國農業科技進步貢獻率是多少 我國組建了多少個國家現代農業產業技術體系?
農業科技進步貢獻率達到61%,組建了50個...
-
第一部雙卡雙待手機是哪個 最早的雙卡雙待手機什么樣?
世界上第一臺雙卡手機,誕生于 2004 ...