北京2020年(nian)12月23日 /美通社(she)/ -- 近日，在GTC China元腦生態技術論壇上，中科極限元、趨動科技、睿沿科技等元腦生態伙伴(ban)分享了多個場景下浪(lang)潮(chao)(chao)AI服務器NF5488A5的(de)實(shi)測數據，結(jie)果表明(ming)浪(lang)潮(chao)(chao)NF5488A5大(da)幅(fu)提(ti)升了智能語音(yin)、圖像識(shi)別(bie)等AI模(mo)型的(de)訓練(lian)和推理性能，促進了產業AI解決(jue)方案的(de)開發與應用。

NF5488A5是浪潮自(zi)研(yan)的(de)新一代AI服(fu)務器(qi)，在4U空間內(nei)支持(chi)8顆(ke)第三代NVLink全互聯的(de)A100芯片，可為用(yong)戶提(ti)供(gong)高(gao)達5 PetaFLOPS的(de)AI計算性(xing)能(neng)和超高(gao)速帶(dai)寬，為各類AI應用(yong)場景提(ti)供(gong)強大(da)的(de)計算力支撐。NF5488A5曾屢次打破全球權威AI測試(shi)榜單MLPerf的(de)記(ji)錄，基于(yu)ImageNet的(de)ResNet50基準測試(shi)顯示，NF5488A5完成(cheng)訓練僅需33.37分鐘，單機性(xing)能(neng)高(gao)居第一；推理性(xing)能(neng)達到(dao)每秒54.9萬張圖片，3倍(bei)于(yu)去年推理榜單的(de)服(fu)務器(qi)最好(hao)性(xing)能(neng)。

在本次GTC元(yuan)腦生態技術論壇上，生態伙伴展示了與浪潮的合(he)作方案并公布了在NF5488A5上的性能實測數(shu)據。

中科極限元開發的智能(neng)語音交(jiao)互解決方(fang)案在(zai)國內處于領(ling)先水平，廣泛應(ying)用于教育(yu)、交(jiao)通、呼叫中心、智(zhi)能硬(ying)件(jian)等多(duo)個領域，本次在(zai)浪潮(chao)NF5488A5進(jin)行(xing)加速(su)。NF5488A5高(gao)性能、高(gao)帶寬、易(yi)部署的(de)特性極大地促進(jin)了智(zhi)能語音(yin)模(mo)型訓練及線(xian)上推(tui)理(li)。測(ce)試(shi)數(shu)據顯示(shi)，在(zai)相同(tong)準確率(lv)下(xia)，與(yu)原有(you)的(de)系統相比，NF5488A5將(jiang)模(mo)型訓練速(su)度提(ti)升(sheng)了50%，單(dan)機最大推(tui)理(li)路數(shu)提(ti)升(sheng)88%，推(tui)理(li)延遲提(ti)升(sheng)65%。

趨(qu)動科技與(yu)浪潮(chao)(chao)聯合打造(zao)了業內領先的(de)一(yi)體(ti)化(hua)GPU資(zi)源(yuan)池(chi)化(hua)解決方案。本(ben)次測試(shi)采用TensorFlow框(kuang)架的(de)Benchmark，測試(shi)小(xiao)模型(xing)推理、大模型(xing)訓練等多種AI應用場景，驗證趨(qu)動科技OrionX AI加速(su)器資(zi)源(yuan)池(chi)化(hua)方案對浪潮(chao)(chao)NF5488A5的(de)兼容(rong)性(xing)(xing)和性(xing)(xing)能。結果表明，NF5488A5服務器性(xing)(xing)能優異，部署資(zi)源(yuan)池(chi)化(hua)方案后(hou)，本(ben)機性(xing)(xing)能損耗小(xiao)于1%，對比以往服務器的(de)GPU性(xing)(xing)能，數據提(ti)升近(jin)50%。

睿沿(yan)科技推(tui)出的(de)(de)高山雨燕工(gong)(gong)業(ye)視(shi)覺平臺是為(wei)工(gong)(gong)業(ye)生產場景構建的(de)(de)智能(neng)多業(ye)務管(guan)理(li)(li)(li)安(an)全(quan)生產管(guan)理(li)(li)(li)平臺，可(ke)(ke)實(shi)(shi)現(xian)遠程(cheng)巡檢、作業(ye)安(an)全(quan)監管(guan)、區域(yu)安(an)防等功能(neng)。該平臺在(zai)計算層使用了浪潮(chao)NF5488A5加速訓練和推(tui)理(li)(li)(li)。實(shi)(shi)測結果顯示，在(zai)圖片(pian)視(shi)頻分(fen)辨率相同的(de)(de)情況下，模型原來的(de)(de)訓練時間為(wei)140分(fen)鐘，使用NF5488A5之后，訓練時間可(ke)(ke)縮(suo)短(duan)到105分(fen)鐘，速度提(ti)升25%。單機最大推(tui)理(li)(li)(li)FPS（每(mei)秒(miao)傳(chuan)輸幀數）由20800提(ti)高到28000，提(ti)升35%。

以(yi)上實測數據顯(xian)示，浪潮NF5488A5可廣泛應用(yong)于(yu)圖像視頻、語音識別(bie)、金(jin)融分析、智(zhi)能客服等(deng)典(dian)型AI應用(yong)場景(jing)，幫助AI用(yong)戶高(gao)效完成AI基礎設施和(he)開發(fa)環(huan)境的構建，縮(suo)短開發(fa)周期，顯(xian)著(zhu)提升AI開發(fa)和(he)應用(yong)效率(lv)。

浪潮(chao)是全球(qiu)領先的(de)AI計(ji)算(suan)領導廠商，其AI服務器在中國(guo)的(de)市場份額已連續三(san)年保持(chi)在50%以上。面對產業(ye)AI化的(de)趨勢，浪潮(chao)提出元腦生態(tai)，將聚集左(zuo)右(you)手(shou)(shou)伙伴、浪潮(chao)AI資(zi)源，以更加優質(zhi)的(de)產品技術能(neng)力(li)(li)和整體方案(an)實施能(neng)力(li)(li)助力(li)(li)更多用(yong)戶實現智能(neng)化轉型和升級。在元腦生態(tai)中，浪潮(chao)將共享AI計(ji)算(suan)平臺、AI資(zi)源平臺和AI算(suan)法平臺。目前元腦生態(tai)吸引了200+左(zuo)右(you)手(shou)(shou)伙伴參與，孵化出6大行業(ye)100+解決方案(an)。