浪(lang)潮信(xin)息宣(xuan)布元腦企(qi)智一(yi)(yi)體機(ji)已(yi)率先完成對Kimi K2萬(wan)億參(can)數大模(mo)型(xing)(xing)的(de)適(shi)配支(zhi)持，并實現單用(yong)戶70 tokens/s的(de)流暢輸(shu)出速度。Kimi K2是月之(zhi)暗面推出的(de)開源萬(wan)億參(can)數大模(mo)型(xing)(xing)，模(mo)型(xing)(xing)總參(can)數量達1萬(wan)億，激(ji)活參(can)數為(wei)320億。元腦企(qi)智一(yi)(yi)體機(ji)采用(yong)元腦服務器(qi)NF5688G7作為(wei)算力(li)底座，其搭(da)載FP8計算引擎，配備1128GB HBM3e高速顯存(cun)，單臺服務器(qi)即可支(zhi)持K2萬(wan)億參(can)數全(quan)量模(mo)型(xing)(xing)部(bu)署，為(wei)Kimi K2提供了專家間高速并行通信(xin)，最(zui)大化并行效率。（美通社）