北京2021年12月1日 /美通社/ -- 在(zai)亞(ya)馬遜云(yun)(yun)科(ke)技re:Invent全球大會(hui)上,亞(ya)馬遜云(yun)(yun)科(ke)技宣布推出三款由自(zi)研(yan)芯片(pian)支(zhi)持(chi)的(de)新Amazon Elastic Compute Cloud (Amazon EC2)實例(li),幫助客(ke)戶顯著提升在(zai)Amazon EC2上運行的(de)工(gong)作負(fu)載的(de)性(xing)(xing)能(neng)(neng)、成本和能(neng)(neng)源效率。新C7g 實例(li)由Amazon Graviton3 處理(li)器支(zhi)持(chi),與由 Amazon Graviton2 處理(li)器支(zhi)持(chi)的(de)當前一代 C6g 實例(li)相比,性(xing)(xing)能(neng)(neng)提高25%。由Amazon Trainium芯片(pian)支(zhi)持(chi)的(de)新Trn1實例(li)為(wei)在(zai)Amazon EC2中訓練(lian)絕大多數機器學(xue)習(xi)模型(xing)提供最(zui)佳(jia)性(xing)(xing)價比,及最(zui)快的(de)訓練(lian)速度。基于(yu)自(zi)研(yan)Amazon Nitro SSDs(固態驅(qu)動器)的(de)新存(cun)儲優化型(xing)Im4gn/Is4gen/ I4i實例(li)為(wei)在(zai)Amazon EC2上運行的(de)I/O密集型(xing)工(gong)作負(fu)載提供最(zui)佳(jia)存(cun)儲性(xing)(xing)能(neng)(neng)。這些(xie)基于(yu)亞(ya)馬遜云(yun)(yun)科(ke)技自(zi)研(yan)芯片(pian)的(de)新Amazon EC2實例(li)的(de)發布,將幫助客(ke)戶支(zhi)持(chi)其關(guan)鍵業務應用(yong)程序。
亞馬(ma)遜(xun)云科(ke)技Amazon EC2副總裁David Brown表(biao)示:“我們對自(zi)研芯片的持續(xu)投入升(sheng)級,已經讓(rang)客戶在當今一些關鍵工作負(fu)載中獲得了巨大的性價比(bi)優勢。客戶希望我們在每一代新的EC2實(shi)例上(shang)不斷突破(po)邊界(jie)。亞馬(ma)遜(xun)云科(ke)技的持續(xu)創新讓(rang)客戶有機會使用這些全新的、改(gai)變游戲規(gui)則的實(shi)例運行其重要的工作負(fu)載,獲得更好(hao)的性價比(bi)。”
C7g實例由新的Amazon Graviton3處理器支持,與由Amazon Graviton2處理器支持的當前一代C6g實例相比,性能提高多達25%
基(ji)于Amazon Graviton2的(de)(de)(de)計(ji)(ji)算(suan)(suan)實(shi)例(li)自2020年推出以來(lai)(lai),被眾多(duo)客(ke)戶(hu)如(ru)DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和(he)(he)Sprinklr等在生產(chan)中使用(yong)并已(yi)經獲得(de)顯著(zhu)的(de)(de)(de)性能提升和(he)(he)成本節省。基(ji)于Graviton2的(de)(de)(de)系(xi)列(lie)實(shi)例(li)共(gong)有(you)12種,包(bao)括通用(yong)型(xing)、計(ji)(ji)算(suan)(suan)優化型(xing)、內(nei)存(cun)(cun)優化型(xing)、存(cun)(cun)儲優化型(xing)、突發性能型(xing)和(he)(he)加速計(ji)(ji)算(suan)(suan)型(xing)實(shi)例(li),讓客(ke)戶(hu)擁有(you)云上至深至廣的(de)(de)(de)計(ji)(ji)算(suan)(suan)選擇,并兼顧性價(jia)比和(he)(he)能效(xiao)(xiao)。隨著(zhu)客(ke)戶(hu)在云中開展更多(duo)計(ji)(ji)算(suan)(suan)密集型(xing)工作負載如(ru)高性能計(ji)(ji)算(suan)(suan)(HPC)、游戲和(he)(he)機(ji)器學習推理,相應的(de)(de)(de)計(ji)(ji)算(suan)(suan)、存(cun)(cun)儲、內(nei)存(cun)(cun)和(he)(he)網絡需求也隨之(zhi)增(zeng)長,客(ke)戶(hu)需要(yao)尋(xun)求更佳的(de)(de)(de)性價(jia)比和(he)(he)能效(xiao)(xiao)來(lai)(lai)運行這些工作負載。
由Amazon Graviton3處理器支持的C7g實例與由 Graviton2 處理器支持的當前一代 C6g 實例相比,可將計算密集型工作負載性能提高多達25%。Amazon Graviton3處理器與Graviton2相比,為科學計算、機器學習和媒體編碼工作負載提供高達2倍的浮點運算性能,為加密工作負載速度提升高達2倍,為機器學習工作負載提供高達3倍的性能。Amazon Graviton3處理器的能效也更高,在相同性能下,與同類型EC2實例對比,可節省高達60%的能源消耗。C7g實例是云中第一個采用最新DDR5內存的實例,與基于Amazon Graviton2的實例相比,它提高了50%的內存帶寬,從而提高了科學計算等內存密集型應用的性能。與基于Amazon Graviton2的實例相比,C7g實例的網絡帶寬也高出20%。C7g 實例支持 Elastic Fabric Adapter (EFA),允許應用程序直接與網絡接口卡通信,提供更低且更一致的延遲,提高需要大規模并行處理(如 HPC 和視頻編碼)的應用程序的性能。C7g實例現已提供預覽版。欲了解更多C7g實例的信息,請訪問aws.amazon.com/ec2/instance-types/c7g。
由Amazon Trainium芯片支持的Trn1實例為在Amazon EC2中訓練絕大多數機器學習模型提供最佳性價比,及最快的訓練速度
越(yue)來越(yue)多客戶(hu)正在構(gou)建、訓練(lian)和(he)(he)部(bu)署(shu)機(ji)器學(xue)習(xi)(xi)模(mo)型(xing)(xing),支持(chi)能夠重塑其業務和(he)(he)客戶(hu)體驗的(de)(de)(de)(de)應用(yong)程序。為(wei)了確保提高準確性(xing),這些機(ji)器學(xue)習(xi)(xi)模(mo)型(xing)(xing)必須構(gou)建在越(yue)來越(yue)多的(de)(de)(de)(de)訓練(lian)數(shu)據上(shang),導致其訓練(lian)成(cheng)本越(yue)來越(yue)高。這可能會限制客戶(hu)能夠部(bu)署(shu)的(de)(de)(de)(de)機(ji)器學(xue)習(xi)(xi)模(mo)型(xing)(xing)數(shu)量(liang)。亞馬遜云科(ke)技(ji)為(wei)機(ji)器學(xue)習(xi)(xi)提供至深至廣的(de)(de)(de)(de)計(ji)算服務選擇,包括(kuo)采用(yong)NVIDIA A100 Tensor Core GPU的(de)(de)(de)(de)EC2 P4d實(shi)例和(he)(he)采用(yong)Habana Labs Gaudi 加(jia)速器的(de)(de)(de)(de) EC2 DL1 實(shi)例。但是,即(ji)使(shi)擁有當(dang)今最快的(de)(de)(de)(de)加(jia)速實(shi)例,訓練(lian)持(chi)續(xu)變大的(de)(de)(de)(de)機(ji)器學(xue)習(xi)(xi)模(mo)型(xing)(xing)仍(reng)然是非常昂(ang)貴和(he)(he)耗(hao)時的(de)(de)(de)(de)。
由Amazon Trainium芯片支持的Trn1實例為在Amazon EC2中進行深度學習模型訓練提供最佳性價比以及最快的訓練速度,與P4d實例相比,通過Trn1實例訓練深度學習模型的成本降低多達40%。Trn1實例提供800Gbps EFA網絡帶寬(比最新基于GPU的EC2實例高兩倍),并與Amazon FSx for Lustre高性能存儲集成,讓客戶可以啟動具有EC2 UltraClusters功能的Trn1實例。通過EC2 UltraClusters,開發人員可以將機器學習訓練擴展到一萬多個與 PB 級網絡互連的 Trainium 加速器,讓客戶按需訪問超算級性能,即便是最大型和最復雜的模型,訓練時間也可以從幾個月縮短到幾天。Trn1實例現已提供預覽版。欲了解更多Trn1實例的信息,請訪問aws.amazon.com/ec2/instance-types/trn1。
采用全新Amazon Nitro SSDs的Im4gn/Is4gen/ I4i實例可為I/O密集型工作負載提供最佳存儲性能
如(ru)今(jin),客(ke)戶將(jiang)I3/I3en存儲(chu)優化型(xing)(xing)實(shi)例(li)用于需要(yao)直(zhi)接(jie)訪問(wen)本地存儲(chu)數(shu)據集的(de)應用程序,比(bi)如(ru)橫向擴展的(de)事(shi)務(wu)型(xing)(xing)和關系(xi)型(xing)(xing)數(shu)據庫(如(ru)MySOL和PostgreSQL),NoSQL數(shu)據庫(如(ru)Cassandra、MongoDB、Redis等),大(da)數(shu)據(如(ru)Hadoop)和數(shu)據分析工(gong)作(zuo)負載(zai)(如(ru)Spark、Hive、Presto等)。I3/I3en實(shi)例(li)以(yi)低成(cheng)本提供非易(yi)失性內(nei)存標準(NVMe) SSD支持的(de)實(shi)例(li)存儲(chu),針(zhen)對低延(yan)遲、高 I/O 性能(neng)和吞(tun)吐量(liang)進行了(le)優化。客(ke)戶喜歡I3/I3en實(shi)例(li)提供的(de)快速(su)事(shi)務(wu)處理(li)能(neng)力(li),但隨著其工(gong)作(zuo)負載(zai)的(de)不斷升(sheng)級——在更大(da)規模的(de)數(shu)據集上處理(li)更復(fu)雜的(de)事(shi)務(wu),他們需要(yao)在不增加成(cheng)本的(de)情況下獲得更高的(de)計(ji)算性能(neng)和更快的(de)數(shu)據訪問(wen)速(su)度(du)。
Im4gn/Is4gen/I4i實例旨在通過架構最大限度提高I/O密集型工作負載的存儲性能。通過自研的 Amazon Nitro SSDs ,Im4gn/Is4gen/I4i實例提供高達 30 TB 的 NVMe 存儲,與上一代I3實例相比,I/O 延遲降低了 60%,延遲可變性降低了 75%,從而最大限度地提高了應用程序性能。Amazon Nitro SSDs通過優化存儲堆棧、虛擬化管理程序和硬件與Amazon Nitro 系統緊密集成。與使用商用SSD相比,亞馬遜云科技同時管理Amazon Nitro SSDs的硬件和固件,使SSD更新交付速度更快,讓客戶可以從改進的功能中獲益。Im4gn 實例(現已可用)采用 Amazon Graviton2 處理器,與 I3 實例相比,性價比提高多達 40%,每 TB存儲成本降低多達 44%。Is4gen 實例(現已可用)也采用 Amazon Graviton2 處理器,與 I3en 實例相比,每 TB 存儲成本降低多達 15%,計算性能提高多達 48%。開始使用Im4gn/Is4gn實例,請訪問aws.amazon.com/ec2/instance-types/i4g。I4i實例(即將可用)采用英特爾第三代可擴展處理器(Ice Lake),與當前一代 I3 實例相比,計算性能提高多達 55%。欲了解更多Im4gn/Is4gen/ I4i實例的信息,請訪問aws.amazon.com/ec2/instance-types/i4i。
SAP HANA是(shi)世界領先的內存數據(ju)庫(ku),是(shi)SAP業(ye)(ye)務(wu)技(ji)術平臺(tai)的基礎。SAP HANA數據(ju)庫(ku)與(yu)分析總裁(cai)Irfan Khan表示:“過去十年中(zhong),SAP HANA幫(bang)助客(ke)戶管理(li)他們最(zui)關鍵的事(shi)務(wu)和(he)分析工作負載。亞馬遜云科(ke)(ke)技(ji)在基于ARM的Amazon Graviton處理(li)器的持(chi)續投入與(yu)創新,與(yu)亞馬遜云科(ke)(ke)技(ji)的合作帶來諸多可能,為(wei)我們的企業(ye)(ye)客(ke)戶和(he)SAP HANA云支持(chi)的SAP云分析和(he)數據(ju)管理(li)解決方案帶來了顯著的運營效率和(he)性能提升。”
Twitter承載著當前(qian)正在(zai)發生和人(ren)們(men)正在(zai)討論的(de)(de)事情。Twitter平臺主管Nick Tornow表示:“Twitter正在(zai)進行(xing)一(yi)個為(wei)期多(duo)年的(de)(de)項目(mu),利用(yong)基(ji)于(yu)Amazon Graviton處理(li)(li)器(qi)的(de)(de)Amazon EC2實(shi)例(li)(li)來提(ti)供Twitter時間線。為(wei)進一(yi)步提(ti)高(gao)(gao)效率,我(wo)們(men)測試了新的(de)(de)基(ji)于(yu)Amazon Graviton3處理(li)(li)器(qi)的(de)(de)C7g實(shi)例(li)(li)。在(zai)一(yi)系列可以代(dai)表Twitter工(gong)作負(fu)載性能(neng)(neng)的(de)(de)基(ji)準測試中,我(wo)們(men)發現基(ji)于(yu)Amazon Graviton3處理(li)(li)器(qi)的(de)(de)C7g實(shi)例(li)(li)與基(ji)于(yu)Amazon Graviton2處理(li)(li)器(qi)的(de)(de)C6g實(shi)例(li)(li)相比,可將性能(neng)(neng)提(ti)高(gao)(gao)20%-80%,同時還(huan)將尾部延遲減少多(duo)達35%。我(wo)們(men)非常高(gao)(gao)興并期待利用(yong)基(ji)于(yu)Amazon Graviton3處理(li)(li)器(qi)的(de)(de)實(shi)例(li)(li)獲得更好的(de)(de)性價比。”
一級(ji)方(fang)程式(shi)(F1)賽車(che)始于(yu)1950年(nian),是世界上最(zui)負盛名的(de)賽車(che)比(bi)賽,也是全球最(zui)受(shou)歡(huan)迎的(de)年(nian)度體育賽事。“基于(yu)Amazon Graviton2處(chu)理器(qi)的(de)C6g實(shi)例已經為我(wo)們(men)的(de)一些CFD(計(ji)算(suan)流體仿真力學)工作負載提供(gong)了最(zui)佳性價(jia)比(bi)。現在,我(wo)們(men)發現在同樣的(de)模擬中(zhong)(zhong),基于(yu)Graviton3的(de) C7g實(shi)例比(bi)基于(yu)Graviton2的(de) C6g實(shi)例快(kuai)40%。”一級(ji)方(fang)程式(shi)管理首(shou)席技術(shu)官Pat Symonds表示:“我(wo)們(men)很高(gao)興EFA將在這種實(shi)例類型中(zhong)(zhong)標配。基于(yu)Graviton3的(de)實(shi)例在性價(jia)比(bi)方(fang)面的(de)優越表現,我(wo)們(men)期待它(ta)成(cheng)為運(yun)行所有CFD工作負載的(de)最(zui)佳選擇。”
Epic Games創立于(yu)(yu)(yu)1991年,是Fortnite、Unreal、Gears of War、Shadow Complex和(he)Infinity Blade系列(lie)游戲(xi)的創造者。Epic的Unreal Engine技術為(wei)PC、主機(ji)(ji)、手機(ji)(ji)、AR、VR和(he)Web帶來了高(gao)(gao)保真、交互(hu)式的體驗。Epic Games高(gao)(gao)級工(gong)程(cheng)總(zong)監Mark Imbriaco表(biao)示(shi):“當(dang)我們(men)展望未來,為(wei)玩家構建更加引人入(ru)勝的沉浸(jin)式體驗時,我們(men)很高(gao)(gao)興使用(yong)基于(yu)(yu)(yu)Amazon Gravtion3處理(li)器(qi)的EC2實例。我們(men)的測(ce)試表(biao)明,它們(men)甚至適用(yong)于(yu)(yu)(yu)要求最嚴苛、延遲敏感度最高(gao)(gao)的工(gong)作(zuo)負載,同(tong)時提供(gong)卓(zhuo)越的性價比,提升(sheng)了《堡壘(lei)之夜》和(he)任何基于(yu)(yu)(yu)虛擬(ni)引擎(qing)創造的游戲(xi)體驗。”
Honeycomb開發了一個可(ke)視化平臺,讓工程團隊可(ke)以可(ke)視化、分析和(he)改善(shan)云應(ying)用程序的(de)質量和(he)性能。“我們(men)很(hen)高興能夠基于Amazon Graviton3的(de)預覽實例(li)測試我們(men)的(de)高吞(tun)吐遙感攝取工作負(fu)載。” honeycomb.io首席開發者布道師Liz Fong-Jones表示(shi):“在處理相同工作負(fu)載的(de)情(qing)況下,我們(men)運行的(de)C7g實例(li)比(bi)C6g少(shao)30%,延遲降低了30%。我們(men)期(qi)待(dai)在Amazon Graviton3的(de)C7g實例(li)正式可(ke)用后盡快投入(ru)到(dao)我們(men)的(de)生產(chan)環境(jing)中。”
Meta AI專注(zhu)于將人(ren)們與其關心的(de)(de)事物(wu)聯系起來,提供(gong)有意(yi)義且安(an)全的(de)(de)體(ti)驗,推進(jin)機(ji)器(qi)學(xue)習(xi)并指(zhi)導開(kai)放研(yan)究。Meta AI PyTorch工程高級總(zong)監Lin Qiao表(biao)示:“PyTorch開(kai)發人(ren)員不(bu)斷(duan)創新,以提高深度(du)學(xue)習(xi)模(mo)型的(de)(de)準(zhun)確(que)性(xing),并找到更好的(de)(de)方(fang)法解決(jue)問題。同時,這(zhe)些模(mo)型的(de)(de)規模(mo)呈指(zhi)數級增長,這(zhe)讓訓練它們變得更加(jia)困難(nan),成本更高。我們的(de)(de)PyTorch團隊(dui)一直在與Amazon Neuron團隊(dui)合(he)作(zuo),為易用性(xing)和性(xing)能(neng)設(she)(she)定了一個高標準(zhun),確(que)保在PyTorch中為Trainium等(deng)加(jia)速(su)器(qi)提供(gong)原生(sheng)支持。這(zhe)其中包括(kuo)研(yan)究集體(ti)計算原語,以及為擴展性(xing)能(neng)和分布式訓練設(she)(she)置適(shi)當的(de)(de)基礎。我們期(qi)待與亞馬遜云科技合(he)作(zuo),將Trainium與PyTorch原生(sheng)產品(如eager mode和dynamic shapes)進(jin)行更多集成。”
Anthropic構建(jian)了可(ke)靠、可(ke)解釋和(he)可(ke)操(cao)控(kong)的(de)(de)人工智能系統,這(zhe)些系統將(jiang)有(you)機會為商業(ye)和(he)公(gong)共(gong)利益創造價值。Anthropic聯合(he)創始人Tom Brown表示:“我(wo)們(men)的(de)(de)研究興趣橫跨(kua)多(duo)個領域,包括自然(ran)語言、人工反饋、縮放(fang)定律、強化學(xue)習(xi)、代(dai)碼(ma)生成和(he)可(ke)解釋性。我(wo)們(men)成功(gong)的(de)(de)一個關鍵是利用(yong)現(xian)代(dai)基礎(chu)設(she)施(shi),讓我(wo)們(men)可(ke)以(yi)啟動超大高性能深度(du)學(xue)習(xi)加速器的(de)(de)集群。 我(wo)們(men)期待使用(yong)Amazon Trainium芯片支持的(de)(de)Trn1實例,因為它(ta)們(men)具有(you)前(qian)所未(wei)有(you)的(de)(de)能力(li),可(ke)以(yi)擴展(zhan)到(dao)上萬個節點(dian),還有(you)更高的(de)(de)網絡帶寬,這(zhe)將(jiang)讓我(wo)們(men)可(ke)以(yi)在(zai)控(kong)制成本(ben)的(de)(de)同時更快地迭代(dai)。”
Splunk是(shi)領先(xian)的(de)數(shu)(shu)(shu)據平臺(tai)提(ti)供商(shang),旨(zhi)在(zai)調查、監控(kong)、分(fen)析和(he)(he)處理任何規模的(de)數(shu)(shu)(shu)據。Splunk云(yun)平臺(tai)和(he)(he)基礎(chu)設施副總裁Brad Murphy表示:“我們運行(xing)基于C/C++的(de)工作(zuo)負(fu)載(zai)來索引和(he)(he)搜索事件數(shu)(shu)(shu)據。我們的(de)工作(zuo)負(fu)載(zai)受(shou)CPU限制,并受(shou)益于高容量和(he)(he)低延(yan)遲的(de)SSD存儲。在(zai)評估(gu)由Amazon Graviton2支持的(de)新(xin)Im4gn/Is4gen實例(li)(li)時,我們觀察到,與當前(qian)使用的(de)I3/I3en實例(li)(li)相比,搜索運行(xing)時間減少了50%。Im4gn和(he)(he)Is4gen實例(li)(li)成(cheng)為(wei)運行(xing)我們存儲密集型工作(zuo)負(fu)載(zai)的(de)絕佳選擇,性價比顯著(zhu)提(ti)升(sheng)且TCO更(geng)低。”
Sprinklr通過(guo) 30 多個數字化渠(qu)道幫助全球大型企(qi)業提升客戶滿意(yi)度——使用為企(qi)業構建的(de)(de)先進(jin)、復雜的(de)(de)人工智能(neng)引擎來創建洞察力驅動的(de)(de)策略(lve),創造更(geng)優(you)秀的(de)(de)客戶體驗。“我們在由Amazon Graviton2處理器支持的(de)(de)Amazon EC2 Im4gn/Is4gen實(shi)(shi)(shi)例(li)上對基(ji)(ji)于(yu)Java的(de)(de)搜索(suo)工作(zuo)負(fu)載(zai)進(jin)行了基(ji)(ji)準測(ce)試(shi)。與(yu)較大的(de)(de)I3en實(shi)(shi)(shi)例(li)相比,較小的(de)(de) Is4gen 實(shi)(shi)(shi)例(li)就(jiu)能(neng)提供(gong)相似的(de)(de)性能(neng),這意(yi)味著有(you)機(ji)會顯著降(jiang)低TCO。” Sprinklr工程副(fu)總裁Abhay Bansal表(biao)示(shi):“我們在將(jiang)工作(zuo)負(fu)載(zai)從I3實(shi)(shi)(shi)例(li)遷移到Im4gn實(shi)(shi)(shi)例(li)時(shi)(shi),還(huan)發現查詢延遲顯著降(jiang)低,多達50%,性價比提升40%。遷移到基(ji)(ji)于(yu)Amazon Graviton2的(de)(de)實(shi)(shi)(shi)例(li)很(hen)容(rong)易,完成基(ji)(ji)準測(ce)試(shi)需要兩周時(shi)(shi)間(jian)。我們對已有(you)的(de)(de)經驗感到非常滿意(yi),并期待基(ji)(ji)于(yu)Im4gn和Is4gen實(shi)(shi)(shi)例(li)在生產環(huan)境(jing)中運行這些工作(zuo)負(fu)載(zai)。”
Redis Enterprise通過(guo)幫助軟(ruan)件團隊為(wei)實(shi)(shi)時(shi)世界創(chuang)建高(gao)性能數據層,為(wei)全球超過(guo)8000個組織提(ti)供關鍵任務應(ying)用(yong)程序和服務。Redis聯合創(chuang)始(shi)人兼(jian)首(shou)席(xi)技術官Yiftach Shoolman表示:“我(wo)(wo)們(men)非常高(gao)興(xing)看到,全新低延(yan)遲(chi)Amazon Nitro SSDs的Amazon EC2 I4i實(shi)(shi)例(li)提(ti)供比上一代實(shi)(shi)例(li)更快的交易速(su)度。我(wo)(wo)們(men)預計I4i實(shi)(shi)例(li)更強的存儲性能和更快的網(wang)絡和處理器(qi)速(su)度將為(wei)我(wo)(wo)們(men)那些基(ji)于(yu)I4i實(shi)(shi)例(li)使(shi)用(yong)Redis-on-Flash的客戶帶來顯著改善,獲得更具吸引力的TCO。”