助力安(an)全構建(jian)和(he)規模化生成式(shi)AI應(ying)用
北(bei)京(jing)2023年11月30日(ri) /美通社/ -- 亞(ya)馬遜云(yun)科技在(zai)2023 re:Invent全球(qiu)大會上(shang)宣布推出Amazon Bedrock更(geng)多(duo)模(mo)型選擇和強大(da)功能,幫助客(ke)戶更(geng)輕松地構建和規模(mo)化針對其業務定(ding)制的生成式AI應用程(cheng)序。Amazon Bedrock是一項(xiang)全面托管的服務,用(yong)戶可輕(qing)松(song)訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和(he)亞馬遜的多(duo)種行業領先大語言模(mo)型和(he)其他(ta)模(mo)型,以(yi)及客(ke)戶構建(jian)生(sheng)成式AI應用程(cheng)序所需的廣泛(fan)的功(gong)能,包括確保隱私和安全(quan)的同時簡化開發(fa)。此次發(fa)布進一步降(jiang)低了生成式AI應(ying)用的(de)門檻(jian)——為客戶(hu)提供了更多(duo)行業領(ling)先(xian)的(de)模型選(xuan)擇和(he)(he)(he)評估模型新功能,以簡(jian)化客戶(hu)使用相關和(he)(he)(he)專(zhuan)有數據定(ding)制(zhi)模型的(de)方(fang)式(shi);提供自動(dong)執行復雜(za)任務(wu)的(de)工具;并為客戶(hu)配備了提供負責任地構建和(he)(he)(he)部署應(ying)用程(cheng)序的(de)保障。Amazon Bedrock的(de)這些新功能為千行(xing)百業、各種規(gui)模的(de)企業應用生成式AI的方式都帶來(lai)改變(bian),助力企業激發(fa)創新并重塑(su)客戶體驗。開始(shi)使用Amazon Bedrock,請訪問aws.amazon.com/bedrock。
亞馬遜(xun)云科技(ji)數(shu)據和(he)人工智能副總裁Swami Sivasubramanian博(bo)士表示:“生成式AI有望成為我們(men)這個時代最具變革性的技術。客戶積極應用生成式AI創造新機遇、應對業務挑戰,這給(gei)我(wo)們帶來了啟發。當客戶將(jiang)生成(cheng)式AI融入(ru)其業務(wu)時,他們會利用Amazon Bedrock以(yi)(yi)全托管(guan)的方式(shi)獲取領先模型、定制功能(neng)、代(dai)理功能(neng)以(yi)(yi)及企業級(ji)安全和隱私保障。有了更(geng)多(duo)觸手(shou)可及的工具(ju),客戶可以(yi)(yi)使(shi)用Amazon Bedrock充分發揮生成式AI的潛力,創(chuang)新(xin)用(yong)戶(hu)體驗、重塑業務并加速生成式AI之(zhi)旅。”
企業希望在各種場景中應用生成式AI,例如提高生產效率,創新用戶體驗和開啟全新工作方式。然而,生成式AI技術正快速發展,每天都有新的服務和創新發生。在日新月異的當下,客戶的適應能力至關重要。企業需要能夠使用最新、最好的可用模型進行試驗、部署、迭代和調整,并時刻準備好迎接變化。為了應對這些挑戰,亞馬遜云科技開發了Amazon Bedrock,使一系列模型的構建和移動就像API調用一樣簡單,讓所有開發人員都可以獲得模型定制的最新技術,并確保客戶的安全和數據隱私。包括Alida、Automation Anywhere、Blueshift、寶馬集團、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集團、The PGA Tour、Proofpoint、Salesforce、西門子、竹中公司和Verint在內的眾多企業已率先采用Amazon Bedrock應用生成式AI。此次發布引入了新的模型和功能,使客戶能夠更輕松地構建和規模化生成式AI應用。
Anthropic、Cohere、Meta和(he)Stability AI的(de)最(zui)新模型以及亞馬遜(xun)Titan的新(xin)增(zeng)功能為客(ke)戶(hu)提供了(le)更多模(mo)型(xing)選擇
沒有(you)一個模型(xing)適合所有(you)場景。模型(xing)的功能、價(jia)格和性能都(dou)不盡相同(tong)。客戶需(xu)要輕松訪(fang)問各(ge)種模型(xing)選擇,多次嘗(chang)試和切換(huan)模型(xing),最終選出最匹配(pei)需(xu)求的模型(xing)。借(jie)助Amazon Bedrock,客戶(hu)可以(yi)利用最新版(ban)本的模型快速創新,包括新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及最近推出的(de)Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多語言模型——全(quan)部可通過API訪問。除了Amazon Titan Text Embeddings和Amazon Titan Text模型(現已全(quan)面(mian)可用)之外,亞馬遜云科(ke)技還提供(gong)了Titan Multimodal Embeddings和Amazon Titan Image Generator為客戶使(shi)用模型構建生(sheng)成式AI應用(yong)程序提(ti)供更(geng)多選(xuan)擇和靈活性。Amazon Titan模型由Amazon Bedrock獨家提供,由亞(ya)馬(ma)遜云科技在適(shi)用于各種用例的大型且多樣(yang)化(hua)的數據集上創建和預訓練,并內置對負責任地(di)使(shi)用AI的支持(chi)。如果正(zheng)式可用(yong)的(de)Amazon Titan模型或其輸(shu)出(chu)的(de)內容侵犯(fan)了(le)第三方版權,亞馬遜將對使用(yong)這些模型的(de)客(ke)戶進行賠償。
新功能(neng)可幫助客戶高效評估(gu)、比較和選擇最適合其(qi)應用場景和業務需求的模型
如今,企(qi)業擁(yong)有廣泛的模(mo)型選(xuan)項來(lai)為其生成(cheng)式AI應(ying)用程序提供支持。在具體應(ying)用場景中,為(wei)了在準(zhun)確性(xing)和(he)性(xing)能之間取得適當(dang)的(de)平衡,企(qi)業必(bi)須有(you)效地比(bi)(bi)較模(mo)型(xing)并(bing)根據(ju)其首選指標(biao)找到最佳選擇。為(wei)了比(bi)(bi)較模(mo)型(xing),企(qi)業必(bi)須首先花幾天時(shi)間確定基準(zhun)、設置評(ping)估(gu)工具并(bing)運行評(ping)估(gu),所有(you)這(zhe)些都需(xu)要深厚的(de)數據(ju)科學專業知識(shi)。此(ci)外,這(zhe)些測(ce)試(shi)無法用于主(zhu)觀標(biao)準(zhun)的(de)評(ping)估(gu)(例如(ru),品牌聲量、相關(guan)性(xing)和(he)風格),因為(wei)主(zhu)觀標(biao)準(zhun)需(xu)要通過繁瑣、耗(hao)時(shi)的(de)人工審核進行判斷。對(dui)于每(mei)個新場景模(mo)型(xing),這(zhe)些比(bi)(bi)較所需(xu)的(de)時(shi)間、專業知識(shi)和(he)資源使企(qi)業望(wang)而(er)卻(que)步,從而(er)限制了他們對(dui)生(sheng)成式AI的(de)使用(yong)。
Amazon Bedrock中的(de)模(mo)型評(ping)估(gu)功能現已推出預(yu)覽(lan)版,可(ke)幫助客戶使用(yong)自(zi)動或人工(gong)評(ping)估(gu)來(lai)評(ping)估(gu)、比較和選擇適合其特定(ding)應用(yong)場景的(de)最佳模(mo)型。在Amazon Bedrock控制臺中(zhong)(zhong),客(ke)(ke)戶(hu)(hu)可(ke)以(yi)選(xuan)擇(ze)他們想(xiang)要針對給(gei)定(ding)任務(例(li)如問答或(huo)內(nei)(nei)容摘要)進行比較的(de)(de)模(mo)型。如需(xu)自(zi)動(dong)評(ping)(ping)(ping)估(gu),客(ke)(ke)戶(hu)(hu)可(ke)以(yi)選(xuan)擇(ze)預定(ding)義(yi)的(de)(de)評(ping)(ping)(ping)估(gu)標準(例(li)如準確性、魯棒性和(he)是否含有有害(hai)內(nei)(nei)容)并上傳自(zi)己的(de)(de)測試數據(ju)集或(huo)從內(nei)(nei)置(zhi)的(de)(de)公(gong)開數據(ju)集中(zhong)(zhong)進行選(xuan)擇(ze)。對于需(xu)要復雜判斷的(de)(de)主觀標準或(huo)細微內(nei)(nei)容,客(ke)(ke)戶(hu)(hu)只需(xu)點擊幾下即可(ke)輕松設置(zhi)基于人工的(de)(de)評(ping)(ping)(ping)估(gu)工作(zuo)流(liu)程。這(zhe)些工作(zuo)流(liu)程利(li)用客(ke)(ke)戶(hu)(hu)的(de)(de)內(nei)(nei)部員工隊伍(wu)或(huo)使用亞(ya)馬遜云科(ke)技提供的(de)(de)員工隊伍(wu)來評(ping)(ping)(ping)估(gu)模(mo)型響應。在(zai)基于人的(de)(de)評(ping)(ping)(ping)估(gu)過程中(zhong)(zhong),客(ke)(ke)戶(hu)(hu)可(ke)以(yi)定(ding)義(yi)特定(ding)的(de)(de)指標(例(li)如,相(xiang)關性、風格和(he)品(pin)牌聲(sheng)量)。客(ke)(ke)戶(hu)(hu)完成設置(zhi)后,Amazon Bedrock就會運(yun)行(xing)評估并生成報告,以便客戶可以輕(qing)松了解(jie)模型(xing)在關鍵標準(zhun)上的(de)表(biao)現(xian),并可以做出最佳權衡(heng),從而(er)快(kuai)速選(xuan)擇最適合其應用(yong)場景的(de)模型(xing)。
擴展的全新模型定制功能可幫(bang)助客戶在亞(ya)馬遜(xun)云科(ke)技上私密且安(an)全地釋放數據價值
企業希望最大限度地(di)釋放數(shu)據(ju)價值,以大規模提供卓越的用戶(hu)體驗(yan),這些體驗(yan)經過獨特定制,能夠反映公司的風格、聲音和服務。Amazon Bedrock中提(ti)供的(de)新(xin)的(de)專門構(gou)建(jian)的(de)功能可幫(bang)助客戶使用自(zi)己的(de)數據私密且(qie)安全地定(ding)制模型,以構(gou)建(jian)差異化的(de)生(sheng)成(cheng)式AI驅動(dong)的應用程序(xu)。
借(jie)助Amazon Bedrock代理功能(neng),生成(cheng)式AI應用(yong)程序可以(yi)使用(yong)公司系(xi)統和數據源執行多步(bu)驟任務
雖然模型(xing)能(neng)夠有效地進行對話和創建(jian)新(xin)內(nei)容,但如果能(neng)夠執行復雜的操作(zuo),例如解(jie)決(jue)問題以及與公(gong)司(si)系統(tong)交互以完成任(ren)務(例如,旅行預定或訂購替(ti)換零(ling)件(jian)),它們可以提供更多價值。然而,這需要(yao)定制化地將模型(xing)與公(gong)司(si)數(shu)據源、API以(yi)及(ji)內部和外部系統(tong)(tong)集成起(qi)來(lai)。開發(fa)人員必須編(bian)寫(xie)代碼來(lai)協調(diao)模(mo)型、系統(tong)(tong)和用戶(hu)之間的交互,以(yi)便應用程序可以(yi)按邏輯(ji)順序執行一系列(lie)API調用。為了將(jiang)模型與數據源連接(jie)起來,開發人員必須(xu)部署RAG,以便(bian)模型可以根(gen)據任務調整(zheng)其響應。最后,開(kai)發人員必須配置和(he)管理必要的基(ji)礎設施,并制定數據安全和(he)隱(yin)私策(ce)略(lve)。這些步驟非常耗時且需要專業知識,從(cong)而減慢了生成(cheng)式(shi)AI應用(yong)程序的開(kai)發速度。
現在正式可(ke)用、完全托管的Amazon Bedrock代理功能使(shi)生成(cheng)式AI應用(yong)程序能夠跨公(gong)(gong)司系統(tong)和數據(ju)源執行多(duo)步驟任(ren)務(wu)(wu)(wu)。代(dai)理(li)(li)可以計劃和執行大多(duo)數業務(wu)(wu)(wu)任(ren)務(wu)(wu)(wu),例(li)如回答有(you)關產(chan)品(pin)(pin)可用(yong)性的問(wen)題或接受訂單。客(ke)戶可以使用(yong)簡單的設置(zhi)過程創建(jian)代(dai)理(li)(li)——首先(xian)選擇所需的模型,用(yong)自然語(yu)言編寫一些說明(例(li)如,“你是一位(wei)友好的客(ke)戶服務(wu)(wu)(wu)代(dai)理(li)(li)”,和“在庫存系統(tong)中檢(jian)查產(chan)品(pin)(pin)庫存情況”),并開放其對(dui)公(gong)(gong)司企業系統(tong)和知識庫的訪問(wen);代(dai)理(li)(li)自動分析請求并將其分解(jie)為(wei)邏輯序列,使用(yong)模型的推(tui)理(li)(li)功能來確定所需的信(xin)息;然后,代(dai)理(li)(li)通過識別(bie)要調(diao)用(yong)的API并決定何時調用它們來(lai)采取(qu)行動、滿足請求。代(dai)理還可(ke)以(yi)從專有數據源檢索所需信息,以(yi)提供準(zhun)確且相關的響應。代(dai)理每次都(dou)會(hui)在(zai)后臺安全、私密地(di)執行此過程,使客戶無需設計提示、管理會(hui)話上下文(wen)或手動編(bian)排系(xi)統。借助適用于Amazon Bedrock的代理(li),客戶可以提升準確性,加速生(sheng)成式(shi)AI應用程序的開發。
借助Amazon Bedrock的Guardrails功能,客戶可(ke)以根(gen)據應用(yong)程序要求和負責任的AI策略跨模(mo)型實施(shi)保護措施(shi)
企業認識到需(xu)要(yao)管理生成式AI應用程序中的(de)交互,以提(ti)供所答即所問的(de)用戶體驗并確保(bao)安全。雖然許(xu)多模型使用內置控件來過濾不良(liang)和有害內容,但企業希望進(jin)一步定制交互,以保(bao)證話題始終與業務相(xiang)關,符合公司政策,并遵(zun)守(shou)“負責任的(de)AI”的原則。例如(ru),銀行可(ke)能(neng)希望這樣(yang)設置其在線助手:避免查詢競爭對手、避免提供投資(zi)建議、以及限制有害內(nei)容。此外(wai),應(ying)用(yong)戶要求,可(ke)能(neng)要變換或隱去用(yong)戶的個人身份信息(PII)以保(bao)證(zheng)安全。企業(ye)可(ke)(ke)能(neng)(neng)需要更改模型(xing)、使用多個模型(xing)或跨應用程序復制(zhi)策略,他(ta)們(men)需要一(yi)種簡單的(de)方法(fa)來(lai)同時在(zai)所有這些領域(yu)一(yi)致地部署他(ta)們(men)的(de)要求。這需要深厚的(de)專業(ye)知識來(lai)構建(jian)具(ju)有此類保(bao)護措(cuo)施的(de)定制(zhi)保(bao)護系(xi)統(tong)并(bing)將(jiang)其集成到應用程序中(zhong),并(bing)且該過程可(ke)(ke)能(neng)(neng)需要數(shu)月時間。企業(ye)希望以一(yi)種簡化的(de)方式在(zai)生成AI應用(yong)程序中強(qiang)化關鍵策略和規則,以提供所(suo)答即所(suo)問的(de)用(yong)戶體驗并支持更安全地使用(yong)該技(ji)術(shu)。
Amazon Bedrock的Guardrails功能現(xian)已推出預覽版,使客戶能夠為生成式 AI 應(ying)用程(cheng)(cheng)序實施(shi)保護(hu)措施(shi)。這些應(ying)用程(cheng)(cheng)序根據客戶應(ying)用場景和“負責任的AI”原(yuan)則進行(xing)定制(zhi),因(yin)此這一功能可以增強用戶交互的安全性和隱私性。Guardrails功能可(ke)以(yi)提高Amazon Bedrock上的模型對應用程序中不(bu)良和有害內容的響(xiang)應方式的一致性。客戶可(ke)以將Guardrails功能(neng)應用于Amazon Bedrock上的所有大型(xing)(xing)語言模型(xing)(xing),以及(ji)微調模型(xing)(xing)并與 Amazon Bedrock代理功(gong)能結合使用。要在Amazon Bedrock控制臺中創建一個Guardrail,客戶(hu)首先使用(yong)自然語言描述(shu)來定義其應(ying)用(yong)程序中(zhong)需要被拒絕(jue)的話題。客戶(hu)還(huan)可以(yi)配置仇恨言論、侮辱(ru)、性(xing)語言和(he)暴力(li)的閾(yu)值(zhi),以(yi)將有害內容過濾到他們想要的水平(ping)。在(zai)2024年(nian)初(chu),客戶還(huan)可以設定模型(xing)響應中的個(ge)人身份信息(xi)(PII)的(de)變換方法(fa)以保證安全、設置(zhi)臟話過濾器,并(bing)提供自定義單詞列表來(lai)阻止用戶和模型之間(jian)的(de)交互。Guardrails自動評估用(yong)戶(hu)查詢(xun)和模型響應,以檢測并防(fang)止出(chu)現屬于受限類別的內容。客(ke)戶(hu)可以創建多個Guardrails來(lai)支持不同(tong)的用例(li),也可以(yi)在多個(ge)模(mo)型中應(ying)用相同(tong)的Guardrail。Amazon Bedrock的(de)Guardrails功能通過提供(gong)一致(zhi)的用戶體(ti)驗(yan)并標準化生成(cheng)型AI應(ying)用程序(xu)的安全(quan)和隱私控(kong)制,使(shi)客戶能夠(gou)安全(quan)地進行創新。
電通是全球最大的整合營銷和技術服務提供商之一。電通創新與新興技術執行副總裁Brian Klochkoff表示:“我們致力于將營銷、技術和咨詢整合起來,助力那些希望造福社會的品牌實現以人為本的轉型。生成式AI能夠讓我們以更大規模、更快速地為客戶提供服務。這項技術不會取代我們的員工,而是為我們全球72000名員工提供助力。具體來說,Amazon Bedrock為我們提供了企業級的控制能力和便捷部署第三方模型的能力,以便我們的產品和技術團隊能夠跨團隊分散使用。這讓團隊能夠在一個安全和負責任的環境下,借助最新、最前沿的生成式AI技術進行革新,為客戶打造創新機遇。”
MongoDB的使命是通過釋放(fang)軟件和(he)(he)數據的力量(liang),幫助創新者創造(zao)、變革和(he)(he)顛覆行業。MongoDB首席產品官(guan)Sahir Azam表示:“各行各業越(yue)來越(yue)多的客(ke)戶希望利用生成式AI來構建下一代應(ying)用程序,但許(xu)多(duo)人擔心數據隱私(si)以(yi)及人工智能(neng)驅動(dong)的(de)系統輸出的(de)準確(que)性。為了滿足客戶的(de)需(xu)求,我們將MongoDB Atlas作為Amazon Bedrock的(de)(de)知識(shi)庫,以便我(wo)們(men)的(de)(de)共同(tong)客戶可(ke)以利用其(qi)運(yun)營數據安全地構建生(sheng)成式(shi)AI應用(yong)(yong)程序,以符合(he)最終(zhong)用(yong)(yong)戶期望的信任度和準(zhun)確(que)性來創建個性化體驗。通(tong)過這(zhe)種集成(cheng),客戶可以訪問行業領先的基礎模型,并(bing)使用(yong)(yong)MongoDB Atlas Vector Search處理過的數據(ju)來創建應用程序,在正確的上下文中提供更多相關的輸出。利用Amazon Bedrock知(zhi)識庫(ku)中內置(zhi)的數據隱私最佳實踐,客(ke)戶可以節省在生成式AI運營(ying)上花費的時間,從而(er)更專注于技術(shu)部署,以在 亞馬遜(xun)云(yun)科技(ji)上提供(gong)更有(you)吸引(yin)力的最(zui)終用戶體(ti)驗(yan)。”
Salesforce是領先的AI客戶關系管理(CRM)平臺,通過AI、CRM和數據的力量實現高效和可信賴的客戶體驗。Salesforce產品高級副總裁Kaushal Kurapati表示:“我們致力于幫助企業以全新、個性化的方式與客戶建立連接,AI對實現這一承諾來說不可或缺。Amazon Bedrock是我們開放模型生態戰略的重要組成部分,能夠將模型與客戶的數據無縫整合,并集成到Salesforce工作流程(cheng)當(dang)中。新增的評估能力可以從多維(wei)度對比基礎模型,包(bao)括(kuo)從友好性(xing)、風格和品(pin)牌相關性(xing)等定性(xing)方面進行(xing)比較(jiao),從而讓模型落地變得前所未有的簡單、快捷。”