北京(jing)2018年(nian)3月(yue)24日電 /美通社/ -- 2018年(nian)3月(yue)22日，浪潮AI服務器(qi)NF5288M5在2018中國IT市場年(nian)會(hui)暨賽(sai)迪生(sheng)態伙(huo)伴大會(hui)上榮(rong)獲2017年(nian)度創新產(chan)品獎。浪潮NF5288M5是目前業界唯一可在2U空間支持8顆(ke)NVlink2.0高速(su)互聯GPU加速(su)計算的(de)AI服務器(qi)，能滿足AI云、深(shen)度學習模型訓練(lian)和線(xian)上推理等各類AI應用場景對計算架構(gou)性能、功(gong)耗的(de)不同需(xu)求。

2017年是人(ren)工智(zhi)能(neng)(neng)應(ying)用(yong)元年，從“阿爾法狗(gou)”以3比0戰(zhan)勝了圍棋天(tian)才柯潔(jie)，到仿真(zhen)機(ji)器人(ren)Sophia被授(shou)予國(guo)籍，人(ren)工智(zhi)能(neng)(neng)正(zheng)全面進入人(ren)類(lei)生(sheng)活。無人(ren)超市(shi)(shi)、自(zi)動駕駛等技術(shu)應(ying)用(yong)正(zheng)在深刻改變(bian)這(zhe)個(ge)世界。以人(ren)工智(zhi)能(neng)(neng)、大(da)數據為代表的(de)(de)新技術(shu)不斷應(ying)用(yong)于工業(ye)、金(jin)融、物(wu)流、商貿、能(neng)(neng)源、教(jiao)育(yu)、農(nong)業(ye)等行業(ye)，AI計(ji)(ji)算(suan)的(de)(de)需求量將呈爆發式增長。然而當(dang)前市(shi)(shi)場上的(de)(de)AI計(ji)(ji)算(suan)平(ping)臺卻普遍面臨著通訊效率低下、平(ping)臺架構僵化、計(ji)(ji)算(suan)密度低等問題。

AI計算平臺的瓶頸 -- 效率、彈性和密度

在AI訓練中，通(tong)常采用CPU+GPU異構計算(suan)(suan)架構，CPU和(he)GPU之間(jian)需要(yao)頻繁的(de)通(tong)訊(xun)，分擔整(zheng)個計算(suan)(suan)任務(wu)中不同(tong)的(de)部分，而一旦通(tong)訊(xun)頻次過高，CPU和(he)GPU就需要(yao)花費大量的(de)時間(jian)進(jin)行(xing)相互通(tong)訊(xun)，嚴重(zhong)影響整(zheng)個計算(suan)(suan)架構的(de)效(xiao)率。

目前市面上(shang)成熟的(de)AI框架有十多種，像標準的(de)圖像、語音(yin)、語意理解(jie)等神經模(mo)型(xing)的(de)數(shu)(shu)量(liang)非常(chang)龐大。不(bu)同的(de)AI框架包含了(le)不(bu)同的(de)模(mo)型(xing)和(he)算(suan)(suan)法，產生不(bu)同規模(mo)的(de)訓練數(shu)(shu)據，對CPU和(he)GPU計算(suan)(suan)架構(gou)的(de)多樣化需求(qiu)。

普通的AI訓練(lian)通常需(xu)要幾(ji)十(shi)萬個樣本進行十(shi)幾(ji)萬次訓練(lian)迭代，為了保(bao)證模型能在(zai)有限的時間(jian)內(nei)做到足夠收斂(lian)，某(mou)些模型甚至需(xu)要超(chao)過200片GPU卡(ka)以AI服務(wu)(wu)器集群(qun)的方式并行，這就需(xu)要部署更多的AI服務(wu)(wu)器，而(er)數據中心空間(jian)是有限的，更高密度的服務(wu)(wu)器成為趨(qu)勢。

浪潮NF5288M5 -- AI計算加速器

為了(le)(le)提(ti)(ti)升計(ji)算效率(lv)、滿足多樣化AI場(chang)景(jing)需(xu)求(qiu)，浪潮NF5288M5另辟蹊徑，變(bian)異(yi)構(gou)(gou)為同構(gou)(gou)，消除(chu)了(le)(le)異(yi)構(gou)(gou)通信(xin)帶(dai)來計(ji)算效率(lv)降低的(de)(de)(de)煩惱(nao)。在2U空間內(nei)(nei)支持部署(shu)8塊NVLink或PCI-E 接口的(de)(de)(de)NVIDIA® Tesla® P100 GPU，可以在不依賴CPU的(de)(de)(de)前提(ti)(ti)下，實現機內(nei)(nei)點(dian)到點(dian)通訊(xun)，減少了(le)(le)異(yi)構(gou)(gou)通訊(xun)的(de)(de)(de)次數；在業界率(lv)先支持NVLink 2.0和(he)最(zui)新發布(bu)的(de)(de)(de)NVIDIA® Tesla®系列(lie)GPU，可以實現GPU間高達300GB/s的(de)(de)(de)互連帶(dai)寬，并(bing)提(ti)(ti)供(gong)極低的(de)(de)(de)延遲(chi)，讓多塊GPU并(bing)行的(de)(de)(de)效率(lv)大幅提(ti)(ti)升超過60%。將GPU同構(gou)(gou)，把NF5288M5的(de)(de)(de)并(bing)行計(ji)算效率(lv)盡(jin)可能(neng)推到極限(xian)。

浪潮AI服(fu)務器NF5288M5可在2U空間內支持(chi)8顆GPU，在超大規模(mo)AI訓練集群(qun)或HPC集群(qun)引用時(shi)，可以幫助(zhu)客(ke)戶節省數據中心(xin)(xin)的基礎設(she)施(shi)資(zi)源(yuan)，更(geng)有(you)利于(yu)數據中心(xin)(xin)的空間分配(pei)。

浪潮NF5288M5采用PCIe線纜的(de)(de)方式(shi)連接(jie)(jie)CPU和GPU資(zi)源，可以靈(ling)活(huo)調整CPU的(de)(de)連接(jie)(jie)帶寬和連接(jie)(jie)數量，在應對不同的(de)(de)AI應用時，更好的(de)(de)做(zuo)到PCIe資(zi)源按(an)需(xu)分配，彈性的(de)(de)異構平臺(tai)，足以支撐多樣化的(de)(de)AI場景。

創新設計應對極限挑戰

浪潮AI服務器(qi)NF5288M5在實現性能、靈活性和(he)密度多(duo)維(wei)度增強的同時(shi)，也面臨著互連、供(gong)電(dian)和(he)散(san)熱設計的三大極限(xian)挑戰。如何在一個系統中實現GPU卡的靈活配置，滿足高(gao)達(da)3000W的供(gong)電(dian)需求，并(bing)在有限(xian)的空間內解決散(san)熱，成為了開發這款產(chan)品的三大難(nan)題。

有別(bie)于業界異構服務(wu)器CPU和GPU緊耦合的(de)互連(lian)方(fang)式(shi)，浪潮NF5288M5采(cai)用(yong)解耦式(shi)設(she)計，參考(kao)刀片服務(wu)器的(de)設(she)計思路，把組件(jian)緊湊(cou)的(de)布局(ju)到(dao)2U空間中(zhong)，同時確(que)保NVLink?的(de)走線長度(du)、信號都處(chu)在較佳(jia)狀態，以保證GPU的(de)性能發揮(hui)。

8塊功耗高達(da)300W的(de)GPU，以及(ji)服務(wu)器內其他的(de)計(ji)算、存(cun)儲和I/O資(zi)源，使(shi)整(zheng)機的(de)功耗達(da)到(dao)3000W，供電(dian)(dian)如何(he)走線成為較大(da)的(de)挑戰。NF5288M5借鑒了浪(lang)潮在整(zheng)機柜(ju)服務(wu)器的(de)供電(dian)(dian)設計(ji)方式，對(dui)單服務(wu)器內部采用(yong)無線纜(lan)供電(dian)(dian)設計(ji)，減(jian)少了供電(dian)(dian)線纜(lan)對(dui)空間的(de)占用(yong)以及(ji)對(dui)散(san)熱(re)氣流的(de)影響。

3000W的(de)供電(dian)，意味著3000W的(de)峰值發(fa)熱(re)(re)量(liang)，6倍于(yu)傳(chuan)統的(de)2U服務(wu)器，散熱(re)(re)成為(wei)一(yi)個繞不過的(de)難題。把低發(fa)熱(re)(re)量(liang)組件(jian)前置，高(gao)(gao)發(fa)熱(re)(re)量(liang)組件(jian)后(hou)置，避免(mian)局部熱(re)(re)點，讓空氣在(zai)服務(wu)器的(de)內部均衡的(de)升溫，再(zai)通過高(gao)(gao)速風扇將熱(re)(re)量(liang)快速帶出服務(wu)器，保障了NF5288M5可(ke)以和(he)傳(chuan)統服務(wu)器一(yi)樣工作在(zai)35℃的(de)環溫下。并且(qie)為(wei)了支(zhi)持低PUE數據中心，還(huan)可(ke)以配(pei)置氣液混(hun)合散熱(re)(re)，甚至可(ke)以支(zhi)持45℃的(de)高(gao)(gao)環溫運行。

浪潮(chao)NF5288M5作為一款高密度、高性(xing)能的AI服務器(qi)，無論(lun)是(shi)在面向人工智(zhi)能訓練還是(shi)HPC應用時，都(dou)能為用戶提(ti)供極致性(xing)能體(ti)驗。