近日, 國際權(quán)威 AI 性能基準(zhǔn)評測平臺 MLPerf 發(fā)布最新推理 (Inference v2.0) 測試成績, 總計超過 10 家國際知名服務(wù)器廠商的數(shù)十種產(chǎn)品參與了本次測試。其中, 寧暢 X640 G40、X660 G45、X620 G40 人工智能服務(wù)器, 在 Closed (封閉) 賽段的 3D-UNet99 (圖像分割)、SSD-large (目標(biāo)檢測重量級) 與 Bert-99 (自然語言處理) 等模型測試中性能表現(xiàn)出色, 共獲得 59 項第一成績。
MLPerf 基準(zhǔn)測試在國際 AI 領(lǐng)域有極高影響力, 其基準(zhǔn)聯(lián)盟已有谷歌、Intel、NVIDIA、微軟、Facebook 等超 50 家成員。MLPerf Inference v2.0 AI 基準(zhǔn)測試包括 Datacenter (數(shù)據(jù)中心) 和 Edge (邊緣) 兩大場景, 參與測試的各計算系統(tǒng)基于同一套參數(shù)運行。
X640 G40 獲得 Datacenter 組全場第一
搭載 NVIDIA A100 Tensor Core 80GB GPU, 寧暢 X640 G40 在 Closed (封閉) 賽段所有已發(fā)布的產(chǎn)品中, 獲得 10 項 Datacenter 組總體性能第一成績, 也是本次測試中的全場第一。
最新的 MLPerfInference v2.0 設(shè)置了不同領(lǐng)域的 Benchmark 子項, 貼近前沿 AI 應(yīng)用場景。X640 G40 在 3D-UNet99 (圖像分割)、SSD-large (目標(biāo)檢測重量級)、Rnnt (語音辨識) 和 Bert-99 (自然語言處理) 等多個經(jīng)典模型測試中均取得高光表現(xiàn)。
擁有強勁性能的寧暢 X640 G40 可針對不同 AI 場景和訓(xùn)練模型進(jìn)行互聯(lián)優(yōu)化, 滿足不同類型客戶需求。其中,SSD-large 模型在線分?jǐn)?shù) 8994.9、離線分?jǐn)?shù) 9279.37, 這一成績代表了寧暢 X640 G40 每秒可完成 9200 多張圖片中信息的分類、定位與精準(zhǔn)檢測, 且可應(yīng)答近 9000 次實時目標(biāo)檢測的推理任務(wù);Rnnt 模型離線分?jǐn)?shù)為 127213, 代表寧暢 X640 G40 每秒可完成 12 萬次語音的識別請求。
X660G45 拿下 Edge 組單項性能冠軍,Datacenter 組同配置 7 項第一
所有產(chǎn)品中, 寧暢 X660 G45 搭載 NVIDIA A100 Tensor Core80GB GPU, 在 SSD-Mobilenet (目標(biāo)檢測移動端) 模型測試的 Multi-Stream (多數(shù)據(jù)流) 場景中, 以 0.44 成績擊敗所有參賽產(chǎn)品, 獲第一成績。同時,X660 G45 還取得 Datacenter 組同配置的 7 項第一, 在 SSD-large、ResNet、Bert-99、Dlrm -99 (智能推薦) 四項任務(wù)中都實現(xiàn)了極佳的性能結(jié)果。其 ResNet 得分在線為 286,030、離線為 316,636, 代表寧暢 X660 G45 能夠每秒完成超過 30 萬張圖片中各個事物類別的海量識別。
X660 G45 是專為深度學(xué)習(xí)訓(xùn)練開發(fā)的高性能計算平臺, 采用 600GB / s 的 NVLink 總線高速互聯(lián), 每個 GPU 還可搭配 HDR 200Gb / s InfiniBand 網(wǎng)絡(luò)和 NVMe SSD 高速緩存, 幫助用戶搭建 GPU 高速集群, 同時結(jié)合近 500TB 的本地存儲容量, 可極大縮短 AI 模型訓(xùn)練時間。
X620 G40 贏取 Datacenter 組同配置 15 項第一
本次測評中, 搭載 4 顆 NVIDIA A2 Tensor Core 的寧暢 X620 G40 獲得 Datacenter 組同配置 15 項第一的成績。X620 G40 在 SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt 和 Dlrm-99 等幾乎所有模型測試中都取得優(yōu)異成績, 充分證明產(chǎn)品在推理性能上出類拔萃, 能夠應(yīng)對各種復(fù)雜的 AI 挑戰(zhàn)。
X620 G40 作為一款 2U 高度人工智能服務(wù)器, 支持 PCIe4.0 高速總線技術(shù), 適配 NVIDIA 各類 GPU 加速卡, 是理想 AI 推理計算平臺, 同時還可勝任桌面虛擬化、云游戲和視頻流轉(zhuǎn)碼等多 IT 行業(yè)用途需求。此外,X620 G40 還具備關(guān)鍵部件健康狀態(tài)監(jiān)控和上報功能, 可以為數(shù)據(jù)中心運維保駕護航。
此次 MLPerf Inference v2.0 榜單的發(fā)布, 進(jìn)一步彰顯了寧暢在 AI 服務(wù)器領(lǐng)域的實力地位。以此為依托, 寧暢將持續(xù)推動技術(shù)創(chuàng)新, 不斷深入各種 AI 應(yīng)用場景, 以智能定制算力賦能用戶更好發(fā)展。
