Super Micro Computer, Inc. (SMCI)宣布使用NVIDIA HGX B200 8-GPU在多個(ge)MLPerf Inference v5.0基準(zhun)測試中率先實現了業界領先的性能。在特定(ding)基準(zhun)測試中，4U液冷和10U風冷系(xi)統實現了最佳性能。與H200 8-GPU系(xi)統相比，Supermicro在Llama2-70B和Llama3.1-405B基準(zhun)測試中展示了每秒生成令牌數(Token/s)超過3倍的效果(guo)。（美通(tong)社）
