助力企業加速應用生成式AI

北京2024年6月27日 /美通(tong)社/ -- 北京靈奧(ao)科(ke)技基(ji)于亞馬(ma)遜(xun)云(yun)(yun)科(ke)技的(de)生成式(shi)AI、數據(ju)庫和容器等云(yun)(yun)服(fu)務(wu)(wu)，打造大(da)模型中間件，將基(ji)礎模型優(you)勢和企業業務(wu)(wu)數據(ju)無縫(feng)結(jie)合，打通(tong)企業AI應用落地的(de)最(zui)后(hou)一公里。靈奧(ao)科(ke)技現已服(fu)務(wu)(wu)全(quan)球超過30,000家用戶，廣泛覆蓋電(dian)商、金融、法律、房地產、教育和能(neng)源等行業。

大模型(xing)中(zhong)間件是基(ji)于基(ji)礎(chu)模型(xing)與(yu)AI應用(yong)之(zhi)間的(de)中(zhong)間層基(ji)礎(chu)軟件，主(zhu)要解決基(ji)礎(chu)模型(xing)應用(yong)過程中(zhong)數據(ju)集(ji)成、應用(yong)集(ji)成、知識庫（向(xiang)量數據(ju)庫）與(yu)基(ji)礎(chu)模型(xing)融(rong)合等問題。作為一家快速(su)成長的(de)初創企業(ye)，靈(ling)奧科技自成立之(zhi)初就加(jia)入了(le)亞馬(ma)遜云(yun)科技合作伙伴網絡，推出了(le)大模型(xing)中(zhong)間件平臺Vanus，提供語料的(de)實時(shi)(shi)采集(ji)、數據(ju)清洗(xi)、過濾和(he)嵌入。同時(shi)(shi)，作為上層應用(yong)訪(fang)問基(ji)礎(chu)模型(xing)與(yu)知識庫的(de)入口(kou)，提供基(ji)礎(chu)模型(xing)與(yu)知識庫的(de)融(rong)合、應用(yong)部署和(he)執行(xing)。

Vanus大(da)模型中間件平(ping)(ping)臺基于亞(ya)馬(ma)(ma)遜云科技而構建，應用(yong)亞(ya)馬(ma)(ma)遜云科技在計(ji)算、網(wang)絡、存(cun)儲、數(shu)據庫(ku)和(he)生成(cheng)式(shi)AI等方(fang)面(mian)(mian)服(fu)(fu)務(wu)(wu)(wu)，實現了多(duo)(duo)個方(fang)面(mian)(mian)的(de)(de)好處(chu)。利用(yong)托(tuo)管(guan)容器服(fu)(fu)務(wu)(wu)(wu)的(de)(de)彈性(xing)(xing)擴展能(neng)(neng)力(li)，Vanus可(ke)根據業(ye)務(wu)(wu)(wu)流(liu)(liu)量(liang)平(ping)(ping)滑伸縮，助力(li)企業(ye)輕(qing)(qing)松(song)應對流(liu)(liu)量(liang)洪峰，平(ping)(ping)均成(cheng)本降(jiang)低30%，性(xing)(xing)價比提高20%；在提高可(ke)用(yong)性(xing)(xing)和(he)可(ke)靠性(xing)(xing)方(fang)面(mian)(mian)，利用(yong)亞(ya)馬(ma)(ma)遜云科技全托(tuo)管(guan)文檔數(shu)據庫(ku)服(fu)(fu)務(wu)(wu)(wu)多(duo)(duo)可(ke)用(yong)區、多(duo)(duo)副本的(de)(de)特(te)性(xing)(xing)，Vanus可(ke)輕(qing)(qing)松(song)實現數(shu)據跨區存(cun)儲，實現無感災難恢復，可(ke)用(yong)性(xing)(xing)達到99.99%；在降(jiang)低延時(shi)方(fang)面(mian)(mian)，Vanus借助對象存(cun)儲服(fu)(fu)務(wu)(wu)(wu)及數(shu)據庫(ku)的(de)(de)高并發數(shu)據查(cha)詢能(neng)(neng)力(li)，結合亞(ya)馬(ma)(ma)遜云科技全球網(wang)絡節(jie)點加速能(neng)(neng)力(li)，縮短(duan)基礎模型上下(xia)文加載時(shi)間，將AI Agent回(hui)復系統延時(shi)降(jiang)低40%；此(ci)外，Vanus借助全托(tuo)管(guan)的(de)(de)生成(cheng)式(shi)AI服(fu)(fu)務(wu)(wu)(wu)提供(gong)的(de)(de)Claude系列模型，提升AI Agent的(de)(de)語言(yan)理(li)解和(he)邏輯推(tui)理(li)能(neng)(neng)力(li)，打造更(geng)加智能(neng)(neng)的(de)(de)服(fu)(fu)務(wu)(wu)(wu)體驗。

目前(qian)，Vanus大模型中間件已在電(dian)商、金融(rong)、法律、房地產(chan)、教育等多個行(xing)業(ye)的(de)業(ye)務場景(jing)中得到廣(guang)泛應用。

某軟(ruan)件(jian)(jian)服(fu)(fu)務企(qi)業(ye)各部門(men)(men)沉淀了大量內部數據(ju)，但面(mian)臨(lin)跨(kua)部門(men)(men)知識(shi)共享效(xiao)率(lv)低和客服(fu)(fu)培訓非(fei)常(chang)耗時(shi)的(de)挑戰。同時(shi)，客服(fu)(fu)人(ren)員(yuan)基(ji)于(yu)傳統搜(sou)索(suo)方式獲取信息，導致(zhi)響應時(shi)間較長(chang)，用戶投訴率(lv)上升(sheng)。Vanus基(ji)于(yu)亞馬遜云科(ke)技的(de)存儲和數據(ju)庫等云服(fu)(fu)務，幫助企(qi)業(ye)從文檔、數據(ju)庫、SaaS軟(ruan)件(jian)(jian)等多個數據(ju)源中實(shi)時(shi)抽取數據(ju)，構建統一的(de)企(qi)業(ye)知識(shi)庫；同時(shi)，借助Amazon Bedrock等服(fu)(fu)務，為企(qi)業(ye)客服(fu)(fu)人(ren)員(yuan)構建AI 機器人(ren)，基(ji)于(yu)全域業(ye)務數據(ju)實(shi)時(shi)推理，快速提供(gong)回(hui)復建議，極大地降低了客服(fu)(fu)響應時(shi)間。現在，問題回(hui)復時(shi)間已從分鐘級降至秒級，客服(fu)(fu)團(tuan)隊(dui)的(de)人(ren)效(xiao)提高70%，大幅降低了客服(fu)(fu)投入(ru)的(de)成本。

南美洲(zhou)某(mou)服飾(shi)類電商(shang)(shang)(shang)網站的(de)產品高(gao)達7,000多種，每天(tian)面臨大量(liang)關于產品、退(tui)換貨和物流(liu)的(de)客(ke)戶(hu)咨詢，不僅(jin)(jin)需要很(hen)多客(ke)服人員，也帶(dai)來(lai)了較(jiao)高(gao)的(de)管理成(cheng)本。尤(you)其在(zai)客(ke)服團隊非工作(zuo)時(shi)(shi)(shi)間(jian)，客(ke)戶(hu)問詢未(wei)能得到(dao)及時(shi)(shi)(shi)回(hui)應，不僅(jin)(jin)導致客(ke)戶(hu)滿意度下降，更錯失(shi)了許多商(shang)(shang)(shang)機。Vanus基于Amazon Bedrock等云服務(wu)為該(gai)企業(ye)構建(jian)了適合(he)電商(shang)(shang)(shang)應用(yong)(yong)場(chang)景(jing)的(de)客(ke)服機器人VanChat，能夠提供(gong)(gong)7*24小時(shi)(shi)(shi)的(de)即時(shi)(shi)(shi)問題回(hui)復服務(wu)，幫(bang)助(zhu)該(gai)企業(ye)節省大量(liang)人力(li)資(zi)源，提高(gao)客(ke)戶(hu)滿意度。此外(wai)，VanChat還(huan)提供(gong)(gong)用(yong)(yong)戶(hu)意圖識(shi)別和產品推薦等功能，加快用(yong)(yong)戶(hu)的(de)購(gou)買(mai)決策，推動網站銷(xiao)售(shou)業(ye)績的(de)增長(chang)。VanChat為該(gai)企業(ye)帶(dai)來(lai)顯著(zhu)的(de)經濟效益，僅(jin)(jin)上線首月(yue)投資(zi)回(hui)報(bao)率就高(gao)達611%，同時(shi)(shi)(shi)還(huan)提供(gong)(gong)客(ke)戶(hu)洞察，幫(bang)助(zhu)企業(ye)更好(hao)地(di)理解用(yong)(yong)戶(hu)需求并優化(hua)營銷(xiao)策略(lve)。

北京靈奧科技CEO厲啟鵬表(biao)示："在生(sheng)(sheng)成式AI賦能(neng)方面，亞馬遜云(yun)科(ke)技(ji)不僅為我們構建了底層基(ji)礎(chu)設施，還提供(gong)了眾多簡單(dan)易用(yong)且功(gong)能(neng)強大(da)的(de)(de)(de)云(yun)服務和(he)專家資(zi)源，加速(su)了靈(ling)奧科(ke)技(ji)生(sheng)(sheng)成式AI產品的(de)(de)(de)快速(su)落(luo)地(di)。展(zhan)望未來(lai)，我們將繼續深化與亞馬遜云(yun)科(ke)技(ji)在數據庫和(he)基(ji)礎(chu)模(mo)型領域(yu)的(de)(de)(de)合(he)作，進(jin)一步增強處理數據的(de)(de)(de)能(neng)力(li)，幫助(zhu)客戶充分釋放生(sheng)(sheng)成式AI的(de)(de)(de)商業(ye)潛力(li)。"