近(jin)期,浪潮信息正(zheng)式(shi)推出(chu)元腦R1推理(li)(li)服(fu)務(wu)器(qi),搭(da)(da)載自研NVMe SSD,通過系(xi)統創新(xin)和軟硬協同(tong)優化,單(dan)機即可部(bu)署運行(xing)DeepSeek R1 671B模(mo)型。元腦R1推理(li)(li)服(fu)務(wu)器(qi)NF5688G7是高(gao)算效(xiao)AI計(ji)算平臺,原生搭(da)(da)載FP8計(ji)算引擎,針對DeepSeek R1 671B模(mo)型部(bu)署速(su)度(du)快且無精(jing)度(du)損失。元腦R1推理(li)(li)服(fu)務(wu)器(qi)NF5868G8則是專為大推理(li)(li)模(mo)型設(she)計(ji)的高(gao)吞吐推理(li)(li)服(fu)務(wu)器(qi),可將DeepSeek 671B模(mo)型推理(li)(li)性能(neng)提(ti)升近(jin)40%。(美(mei)通社)