移(yi)遠(yuan)通(tong)信端側大模型解決方案融合前沿的(de)LLM、RAG與Agent等(deng)業(ye)界主流技術,可助(zhu)(zhu)力(li)實現(xian)“情景理(li)解、知識融合、智能交互、自主決策、任務(wu)執行”等(deng)多(duo)種(zhong)功能,目(mu)前已(yi)在服務(wu)機(ji)器人等(deng)領域加(jia)速(su)落地。該方案基于(yu)移(yi)遠(yuan)邊(bian)緣計算智能模組SG885G-WF,搭載高(gao)(gao)通(tong)QCS8550平臺,具備高(gao)(gao)達48 TOPS的(de)綜合算力(li)。在移(yi)遠(yuan)大模型解決方案的(de)助(zhu)(zhu)力(li)下,服務(wu)機(ji)器人可實現(xian)1s以內的(de)意(yi)圖識別(bie),解碼速(su)率超(chao)過15 tokens/s。(美(mei)通(tong)社(she))