北京2020年10月22日 /美通社/ -- 美國東部時間10月21日，全球備受矚目(mu)的權威AI基準測試MLPerf公布今年的推理測試榜單，浪潮AI服務器NF5488A5一舉創造18項性能紀錄，在數據(ju)中心AI推理性能上遙遙領(ling)先其(qi)他廠(chang)商產品。

MLPerf是當前全球最具影響力的AI計算基準評測組織之(zhi)一，由圖(tu)靈獎(jiang)得主大(da)衛·帕特森（David?Patterson）聯合谷歌、斯坦福(fu)、哈佛大(da)學等單位共同成(cheng)立，每年組(zu)織全球(qiu)AI訓練和AI推(tui)理(li)性能測試并發榜(bang)。此(ci)次MLPerf的(de)AI推(tui)理(li)基(ji)準(zhun)測試有(you)全球(qiu)23家公(gong)司和單位參與，在數據中心(xin)及(ji)邊(bian)緣等場(chang)景進行AI計算產品的(de)性能比試。今年MLPerf訓練榜(bang)單已于7月公(gong)布。

浪潮NF5488A5獲數據中心AI性能絕對優勢

此次浪潮NF5488A5一舉創造18項MLPerf推理性能紀錄，成為創紀錄最多的AI服務器。今年的測試中，數據中心AI性能極(ji)受關注，全部參與機構提交了507項性能測試數據。浪潮NF5488A5創下了數據中心22個賽項中的13項性能紀錄，以絕對優勢領先，NVIDIA DGX取得了5項數據中心性能紀錄。而在此前的MLPerf訓練榜單中，NF5488A5在最核心的Resnet50訓練任務中也創下了性能紀錄，單(dan)機性能高居榜首。

性能大幅提升3倍，全棧AI能力優勢凸顯

在(zai)此次基準測試(shi)中(zhong)，浪潮AI服務器(qi)NF5488A5在(zai)開放(fang)優(you)化(Open)和(he)固定任務(Closed)的(de)ResNet50基準性(xing)能測試(shi)中(zhong)，均表(biao)現優(you)異，相(xiang)比2019年MLPerf推理榜單的(de)服務器(qi)最好性(xing)能提升高達3倍。

MLPerf ResNet50推理性能2019 VS 2020對比

NF5488A5是(shi)浪(lang)潮(chao)自(zi)研的(de)(de)新一代(dai)AI服(fu)務器(qi)(qi)，是(shi)此次(ci)MLPerf全(quan)球競賽中唯一可以在(zai)4U空間內支持8塊安培(pei)架構A100芯片實現NVLink高(gao)速互聯的(de)(de)AI服(fu)務器(qi)(qi)。浪(lang)潮(chao)NF5488A5在(zai)系統(tong)拓撲上采用了超低延遲設(she)計，支持PCIe 4.0全(quan)鏈路極致優化(hua)，高(gao)頻通(tong)信(xin)單元采用一級拓撲最(zui)近連(lian)接，最(zui)大限度(du)提升處理(li)器(qi)(qi)到AI芯片間的(de)(de)通(tong)信(xin)性(xing)能(neng)。同時，通(tong)過配置(zhi)NUMA節點，確(que)保每(mei)顆處理(li)器(qi)(qi)與其直連(lian)的(de)(de)GPU之間通(tong)信(xin)性(xing)能(neng)最(zui)優，最(zui)大限度(du)降低通(tong)信(xin)延遲。此外，NF5488A5通(tong)過深度(du)優化(hua)系統(tong)結構設(she)計，確(que)保設(she)備可在(zai)高(gao)溫環(huan)境(jing)下穩(wen)定運行。

本次基準測試中，浪潮(chao)展(zhan)示出了(le)卓越的(de)(de)AI計算軟(ruan)硬件(jian)協同優(you)化(hua)能(neng)(neng)(neng)力。在(zai)硬件(jian)層(ceng)面(mian)，通過對CPU、GPU硬件(jian)性(xing)能(neng)(neng)(neng)的(de)(de)精(jing)細校準和全面(mian)優(you)化(hua)，使(shi)CPU性(xing)能(neng)(neng)(neng)、GPU性(xing)能(neng)(neng)(neng)、CPU與GPU之間的(de)(de)數據通路均處于對AI推(tui)理(li)最優(you)狀態；在(zai)軟(ruan)件(jian)層(ceng)面(mian)，結合GPU硬件(jian)拓(tuo)撲對多GPU的(de)(de)輪詢調度優(you)化(hua)使(shi)單卡至多卡性(xing)能(neng)(neng)(neng)達(da)到了(le)近似線性(xing)擴展(zhan)；在(zai)深度學習(xi)算法層(ceng)面(mian)，結合GPU Tensor Core 單元的(de)(de)計算特(te)征，通過自研通道壓縮算法成功實現了(le)模型的(de)(de)極(ji)致性(xing)能(neng)(neng)(neng)優(you)化(hua)，在(zai)精(jing)度無損(sun)的(de)(de)情況下性(xing)能(neng)(neng)(neng)提(ti)升(sheng)近2倍(bei)。

浪潮是全(quan)球領先的AI計算領導廠商，其AI服務器在(zai)中國(guo)的市場(chang)份額已連(lian)續(xu)三年(nian)保持在(zai)50%以上(shang)。浪潮致力(li)于AI計算平臺(tai)、資源平臺(tai)和算法平臺(tai)的研發創新，并通(tong)過元(yuan)腦生態與AI領先企業共同(tong)推進AI產業化和產業AI化進程。