移遠(yuǎn)通信端側(cè)大模型解決方案融合前沿的LLM、RAG與Agent等業(yè)界主流技術(shù)，可助力實(shí)現(xiàn)“情景理解、知識(shí)融合、智能交互、自主決策、任務(wù)執(zhí)行”等多種功能，目前已在服務(wù)機(jī)器人等領(lǐng)域加速落地。該方案基于移遠(yuǎn)邊緣計(jì)算智能模組SG885G-WF，搭載高通QCS8550平臺(tái)，具備高達(dá)48 TOPS的綜合算力。在移遠(yuǎn)大模型解決方案的助力下，服務(wù)機(jī)器人可實(shí)現(xiàn)1s以內(nèi)的意圖識(shí)別，解碼速率超過(guò)15 tokens/s。（美通社）
