韓國首爾2021年8月24日 /美(mei)通社(she)/ -- 近期,三星在(zai)Hot Chips 33會(hui)(hui)議上(shang)展示了其(qi)在(zai)內存(cun)內處(chu)理(li)(PIM)技術方面的最新進展。Hot Chips 33會(hui)(hui)議作為半導體行業(ye)的重(zhong)要會(hui)(hui)議,每年都會(hui)(hui)有備受矚(zhu)目的微處(chu)理(li)器和(he)IC創新產品亮相。
三星發(fa)布的信息包括,三星首次(ci)成功將基于PIM的高帶寬(kuan)存儲器(qi)(HBM-PIM)整合到商用化(hua)加(jia)速(su)器(qi)系統中,并擴大PIM應用范圍至DRAM模組和移動內存,從而加(jia)速(su)實(shi)現內存和邏輯的融合。
三星首次將HBM-PIM集成到AI加速器中
今年2月(yue),三星(xing)推出了(le)(le)其首(shou)個HBM-PIM(Aquabolt-XL),將AI處理(li)能力(li)整合到三星(xing)HBM2 Aquabolt中,以增強(qiang)超級計算機和AI應(ying)用的高速數(shu)據處理(li)能力(li)。隨后,HBM-PIM在賽靈思(Xilinx)Virtex Ultrascale+(Alveo)AI加(jia)速器中進(jin)行了(le)(le)測試,它提升了(le)(le)近(jin)2.5倍的系統(tong)性能,并降低(di)超過60%的能耗(hao)。
“HBM-PIM是三星首個(ge)在客戶AI加速器系統中進(jin)行了測試的(de)(de)AI定制內(nei)存解決方案(an),顯示出(chu)巨大的(de)(de)商業潛力。”三星電(dian)子DRAM產品(pin)和(he)技術高(gao)級副總(zong)裁Nam Sung Kim表(biao)示,“隨(sui)著技術標(biao)準化發展,該技術應用(yong)(yong)(yong)將會進(jin)一步擴大,擴展至用(yong)(yong)(yong)于(yu)下一代超級計算機和(he)AI應用(yong)(yong)(yong)的(de)(de)HBM3,甚(shen)至用(yong)(yong)(yong)于(yu)設備上AI的(de)(de)移(yi)動(dong)存儲器,以及用(yong)(yong)(yong)于(yu)數據中心的(de)(de)存儲器模(mo)塊。”
“賽(sai)靈思(si)一直與三星(xing)電(dian)子(zi)合作,從Virtex UltraScale+ HBM系(xi)列開始,為數據中心(xin)、網絡和實時信(xin)號處理應用(yong)(yong)提供高性能(neng)解決方案。近期,雙方又(you)推出了令人振(zhen)奮的Versal HBM系(xi)列產(chan)品。”賽(sai)靈思(si)產(chan)品規劃(hua)部(bu)高級總監(jian)Arun Varadarajan Rajagopal表示,“很高興能(neng)與三星(xing)繼續(xu)開展合作,我們幫(bang)助評估(gu)HBM-PIM系(xi)統在AI應用(yong)(yong)中實現重大性能(neng),及能(neng)效(xiao)提升的潛力。”
由PIM驅動的DRAM模塊
加速DIMM(AXDIMM)能(neng)在DRAM模(mo)塊內(nei)進行(xing)“處理”,盡可能(neng)減少(shao)(shao)CPU和DRAM之間的(de)(de)(de)大(da)量數據(ju)交換,以提升AI加速器系(xi)統(tong)的(de)(de)(de)能(neng)源效率(lv)。由于(yu)緩沖(chong)芯片(pian)內(nei)嵌有AI引(yin)擎,AXDIMM可對多(duo)個內(nei)存排列(DRAM芯片(pian)組(zu))并(bing)行(xing)處理,而非每次(ci)僅訪問一組(zu),從而大(da)大(da)提升了系(xi)統(tong)性(xing)(xing)能(neng)和效率(lv)。由于(yu)AXDIMM模(mo)塊能(neng)保留傳統(tong)DIMM的(de)(de)(de)外形尺寸,因此(ci)它能(neng)在不修(xiu)改系(xi)統(tong)的(de)(de)(de)情況(kuang)下直接替換。目前,AXDIMM正在客戶(hu)的(de)(de)(de)服務器上進行(xing)測試,能(neng)夠在基(ji)于(yu)AI的(de)(de)(de)推薦應用中,提供(gong)大(da)約(yue)2倍的(de)(de)(de)性(xing)(xing)能(neng),并(bing)使整個系(xi)統(tong)的(de)(de)(de)能(neng)耗減少(shao)(shao)40%。
“思(si)愛普(SAP)一(yi)直(zhi)為SAP-HANA在內(nei)(nei)存內(nei)(nei)數(shu)據(ju)庫(IMDB)應用(yong)方面與三星開展合(he)作(zuo)(zuo)。”思(si)愛普HANA核心研(yan)究與創新主管Oliver Rebholz表示,“根據(ju)性能預測和潛(qian)在的(de)整合(he)方案,我們(men)預計(ji)內(nei)(nei)存內(nei)(nei)數(shu)據(ju)庫管理(IMDBMS)的(de)性能會有明顯改善,并通過(guo)AXDIMM上(shang)的(de)分解計(ji)算,實(shi)現更高(gao)能效。思(si)愛普希望繼續與三星在該(gai)領域(yu)進行合(he)作(zuo)(zuo)。”
移動存儲器將AI從數據中心帶到設備上
三星LPDDR5-PIM移動存儲器(qi),可在(zai)不連接數據中心的(de)情(qing)況(kuang)下,提供(gong)獨立的(de)AI功能(neng)。模擬測(ce)試表(biao)明(ming),LPDDR5-PIM在(zai)用于(yu)語音識(shi)別、翻(fan)譯和聊天機器(qi)人等應用時,可提升1倍以(yi)上的(de)性能(neng),同時減少60%以(yi)上的(de)能(neng)耗。
激發生態系統活力
三(san)星計劃通過與其(qi)他行(xing)業領導(dao)者(zhe)合(he)作,在2022年(nian)上半年(nian)實現(xian)PIM平(ping)臺標準(zhun)化,從而擴展AI內存產品組合(he)。三(san)星還將繼(ji)續努(nu)力,培養一個(ge)高度健全的(de)PIM生態系統,以(yi)確保整個(ge)內存市場(chang)的(de)廣(guang)泛適用(yong)性。
*實際(ji)性能(neng)可(ke)能(neng)因設備和(he)用(yong)戶環境(jing)而異
*本文(wen)中(zhong)(zhong)的產(chan)(chan)品(pin)圖片(pian)以及(ji)型號(hao)、數據、功能、性(xing)能、規(gui)格參數、特(te)點和(he)其(qi)他產(chan)(chan)品(pin)信息(包括但不限于(yu)產(chan)(chan)品(pin)的優勢、組件、性(xing)能、可用性(xing)和(he)能力)等僅(jin)供參考,三(san)(san)星有可能對上述內容進行改進,且均(jun)無需通(tong)知或不受(shou)約束(shu)即可變更,具(ju)體信息請參照產(chan)(chan)品(pin)實物、產(chan)(chan)品(pin)說明(ming)書。除非(fei)經特(te)殊說明(ming),本文(wen)中(zhong)(zhong)所涉及(ji)的數據均(jun)為三(san)(san)星內部測試(shi)結果,本文(wen)中(zhong)(zhong)涉及(ji)的對比均(jun)為與三(san)(san)星產(chan)(chan)品(pin)相比較。