亞馬遜云科技宣布推出生成式AI新服務(wù)加速創(chuàng)新

  ICC訊 10月7日消息，亞馬遜云科技宣布推出五項(xiàng)生成式AI創(chuàng)新，使各種規(guī)模的企業(yè)都可以構(gòu)建新的生成式AI應(yīng)用程序，提高員工生產(chǎn)力并完成業(yè)務(wù)轉(zhuǎn)型。這五項(xiàng)創(chuàng)新包括：亞馬遜云科技全面托管服務(wù)Amazon Bedrock正式可用，通過統(tǒng)一的應(yīng)用程序編程接口(API)提供來自領(lǐng)先AI公司的基礎(chǔ)模型(FM);亞馬遜云科技宣布Amazon Titan Embeddings模型正式可用，為客戶提供更多基礎(chǔ)模型選擇;Amazon Bedrock最新引入了Meta Llama 2模型，這是第一個(gè)通過API提供完全托管Meta Llama 2模型的服務(wù);AI編程助手Amazon CodeWhisperer的新功能即將提供預(yù)覽，可以根據(jù)企業(yè)的內(nèi)部代碼庫安全地定制CodeWhisperer的代碼建議，助力開發(fā)人員從生成式AI中獲得更大價(jià)值;Amazon QuickSight的生成式BI創(chuàng)作功能現(xiàn)已推出預(yù)覽版，可以提高業(yè)務(wù)分析師的工作效率。這一功能是云原生構(gòu)建的統(tǒng)一BI服務(wù)，使客戶能夠通過自然語言簡單地描述他們想要的內(nèi)容，從而創(chuàng)建可視化內(nèi)容、格式化圖表、執(zhí)行計(jì)算等。從Amazon Bedrock、Amazon Titan Embeddings，再到Amazon CodeWhisperer和Amazon QuickSight，這些創(chuàng)新增強(qiáng)了亞馬遜云科技在生成式AI堆棧各個(gè)層面的能力，無論任何規(guī)模的企業(yè)都可在獲得企業(yè)級(jí)安全和隱私保護(hù)的同時(shí)，選擇模型并進(jìn)行模型定制。

  “在過去的一年里，海量數(shù)據(jù)的爆炸、大規(guī)模彈性算力的就位，以及機(jī)器學(xué)習(xí)技術(shù)的快速進(jìn)步點(diǎn)燃了人們對(duì)生成式AI的熱情，深刻改變了各行各業(yè)，并重塑了人們的工作方式?！眮嗰R遜云科技數(shù)據(jù)和機(jī)器學(xué)習(xí)全球副總裁Swami Sivasubramanian表示，“憑借企業(yè)級(jí)的安全和隱私保護(hù)、領(lǐng)先的基礎(chǔ)模型選擇、數(shù)據(jù)為先的方法論，以及高性能、具有成本效益的基礎(chǔ)架構(gòu)，亞馬遜云科技贏得了企業(yè)的信賴，并在技術(shù)棧的每一層使用生成式AI解決方案助力企業(yè)不斷創(chuàng)新。今天的發(fā)布是一個(gè)重要的里程碑，它將生成式AI提供給每個(gè)企業(yè)，從初創(chuàng)企業(yè)到大型企業(yè)的每個(gè)員工，從開發(fā)工程師到數(shù)據(jù)分析師。通過強(qiáng)大的創(chuàng)新，亞馬遜云科技為企業(yè)帶來了更強(qiáng)的安全性、多種選擇和出色的性能，同時(shí)還幫助它們緊密對(duì)齊企業(yè)的數(shù)據(jù)戰(zhàn)略，進(jìn)而能夠充分釋放生成式AI的潛力?！?

  各行各業(yè)的企業(yè)無論規(guī)模大小都渴望借助生成式AI來變革運(yùn)營方式，重新思考解決復(fù)雜問題的方法，并創(chuàng)造全新的用戶體驗(yàn)。盡管生成式AI的最新進(jìn)展引起了廣泛關(guān)注，但許多企業(yè)還未能參與到這一轉(zhuǎn)型過程中。它們一邊對(duì)使用生成式AI充滿渴望，一邊又對(duì)這些工具的安全性和隱私問題憂心忡忡。這些企業(yè)希望能夠測試多種基礎(chǔ)模型，從而找到最適合自己應(yīng)用場景的模型。它們還希望最大限度地利用已經(jīng)擁有的數(shù)據(jù)，通過定制模型來為最終用戶提供獨(dú)特的體驗(yàn)。最后，企業(yè)需要工具將創(chuàng)新迅速推向市場，還需要具備在全球范圍內(nèi)部署生成式AI應(yīng)用程序的基礎(chǔ)設(shè)施。

  這就是為什么眾多企業(yè)正在向亞馬遜云科技尋求生成式AI服務(wù)，比如阿迪達(dá)斯、Alida、寶馬集團(tuán)、Genesys、Glide、GoDaddy、Intuit、律商聯(lián)訊(LexisNexis Legal & Professional)、孤獨(dú)星球(Lonely Planet)、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會(huì)社竹中工務(wù)店、Traeger Grills、美巡賽、Verint、Verisk和WPS等。

  Amazon Bedrock正式可用，幫助更多客戶構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序

  Amazon Bedrock是一項(xiàng)完全托管的服務(wù)，提供了來自眾多領(lǐng)先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜)面向海外業(yè)務(wù)的的高性能基礎(chǔ)模型，以及企業(yè)構(gòu)建生成式AI應(yīng)用程序所需的一系列功能，能夠在實(shí)現(xiàn)簡化開發(fā)的同時(shí)確保隱私性和安全性?；A(chǔ)模型具有良好的適用性，可為信息搜索、內(nèi)容創(chuàng)建及藥物發(fā)現(xiàn)等諸多領(lǐng)域提供支持。但是對(duì)于許多希望利用生成式AI的企業(yè)來說，尚有一些問題需要解決。首先，它們需要簡單直觀的選取和訪問高性能基礎(chǔ)模型，滿足其場景需求且表現(xiàn)優(yōu)異;其次，客戶希望應(yīng)用程序?qū)崿F(xiàn)無縫集成，無需管理龐大的基礎(chǔ)設(shè)施集群或花費(fèi)大量成本;最后，客戶希望借助基礎(chǔ)模型并結(jié)合自身數(shù)據(jù)來輕松構(gòu)建差異化的應(yīng)用程序，而這些客戶用于定制的數(shù)據(jù)無疑是非常寶貴的資產(chǎn)，具有知識(shí)產(chǎn)權(quán)，因此在使用過程中必須做到全面保護(hù)，在確保安全和隱私的同時(shí)，保證客戶對(duì)數(shù)據(jù)共享和使用方式擁有控制權(quán)。

  借助Amazon Bedrock的完善功能，企業(yè)能夠更方便、輕松地嘗試多種領(lǐng)先的基礎(chǔ)模型，使用自己的專有數(shù)據(jù)定制模型。此外，Amazon Bedrock還提供差異化能力，例如無需再編寫任何代碼便可創(chuàng)建的托管代理(AI agent)，它可以執(zhí)行復(fù)雜任務(wù)，如旅行預(yù)訂、處理保險(xiǎn)索賠、策劃廣告活動(dòng)和管理庫存等。由于Amazon Bedrock采用無服務(wù)器(serverless)技術(shù)，客戶不必管理任何基礎(chǔ)設(shè)施，就可以使用已經(jīng)熟悉的亞馬遜云科技服務(wù)將生成式AI能力安全地集成和部署到應(yīng)用程序中。

  Amazon Bedrock在開發(fā)之初就考慮到安全性和隱私保護(hù)，幫助客戶保護(hù)敏感數(shù)據(jù)。客戶可以使用Amazon PrivateLink，在Amazon Bedrock與虛擬私有網(wǎng)絡(luò)(VPC)之間建立專門的安全連接，確保任何數(shù)據(jù)傳輸都不會(huì)暴露在公共網(wǎng)絡(luò)。對(duì)于存在高度監(jiān)管需求的客戶，Amazon Bedrock符合HIPAA(《健康保險(xiǎn)流通與責(zé)任法案》)要求，并且可以在GDPR(歐盟《通用數(shù)據(jù)保護(hù)條例》)合規(guī)標(biāo)準(zhǔn)下使用，讓更多的客戶從生成式AI中獲益。

  Amazon Bedrock通過Amazon Titan Embeddings和Llama 2進(jìn)一步擴(kuò)大可選模型范圍，幫助每個(gè)客戶找到適合應(yīng)用場景的模型

  事實(shí)上，沒有任何一個(gè)單一模型可以適用于所有的應(yīng)用場景。因此，為了挖掘生成式AI的價(jià)值，企業(yè)往往需要訪問多個(gè)模型，根據(jù)自己的要求尋找最適合的那一個(gè)。為此，Amazon Bedrock讓出?？蛻糁恍柰ㄟ^單一API就能找到和測試AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的領(lǐng)先的基礎(chǔ)模型。此外，亞馬遜云科技近日還宣布了Anthropic未來的所有基礎(chǔ)模型都將在Amazon Bedrock上可用，并為亞馬遜云科技出海客戶提供模型定制和微調(diào)等特殊功能的優(yōu)先訪問。而現(xiàn)在起，Amazon Bedrock再次引入新的基礎(chǔ)模型帶來更多選擇：

  Amazon Titan Embeddings現(xiàn)正式可用：Amazon Titan基礎(chǔ)模型是由亞馬遜云科技在大型數(shù)據(jù)集上創(chuàng)建和預(yù)訓(xùn)練的一系列模型，可以支持各種應(yīng)用場景。作為這些模型中第一個(gè)正式可用的模型，Amazon Titan Embeddings是一種大語言模型(LLM)，它將文本轉(zhuǎn)換成被稱為嵌入向量(embeddings)的數(shù)值表示，以支持檢索增強(qiáng)生成(RAG)的應(yīng)用場景?；A(chǔ)模型雖然適用于多種任務(wù)，但卻只能根據(jù)從訓(xùn)練數(shù)據(jù)和提示詞上下文中學(xué)到的信息來回答問題。一旦這些回答需要利用高時(shí)效性的知識(shí)或?qū)Ｓ袛?shù)據(jù)時(shí)，其有效性就會(huì)受限。為了能通過擴(kuò)展數(shù)據(jù)來改進(jìn)基礎(chǔ)模型的回答，許多企業(yè)將目光轉(zhuǎn)向RAG——這一流行的模型定制技術(shù)能將基礎(chǔ)模型連接到可被引用的知識(shí)庫，從而改進(jìn)響應(yīng)效果。要開始使用RAG，客戶必須先訪問一個(gè)嵌入模型，將數(shù)據(jù)轉(zhuǎn)換成嵌入向量，使基礎(chǔ)模型更容易理解數(shù)據(jù)之間的語義和關(guān)系。然而，構(gòu)建嵌入模型需要大量的數(shù)據(jù)和資源，以及深厚的機(jī)器學(xué)習(xí)專業(yè)知識(shí)，因此很多客戶很難完成自行構(gòu)建，也就無法實(shí)現(xiàn)RAG。Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG，以便利用專有數(shù)據(jù)擴(kuò)展各種基礎(chǔ)模型的能力。Amazon Titan Embeddings支持超過25種語言和多達(dá)8192個(gè)token的上下文長度，非常適合基于企業(yè)的應(yīng)用場景處理單個(gè)單詞、短語或整個(gè)文檔。該模型可返回1536個(gè)維度的輸出向量，確保高度準(zhǔn)確性的同時(shí)還專為實(shí)現(xiàn)更低延遲和更優(yōu)性價(jià)比進(jìn)行了優(yōu)化。

  Llama 2即將在未來幾周推出：Amazon Bedrock是業(yè)界首個(gè)通過托管API提供Meta下一代大語言模型 Llama 2的完全托管的生成式AI服務(wù)。Llama 2模型比之前的Llama模型有了顯著改進(jìn)，包括使用了比原始訓(xùn)練多40%的訓(xùn)練數(shù)據(jù)，并具有更長的上下文長度(4000個(gè)token)，以處理更大的文檔。Amazon Bedrock提供的Llama 2模型已經(jīng)過優(yōu)化，可以在亞馬遜云科技基礎(chǔ)設(shè)施上提供快速響應(yīng)，非常適合對(duì)話式應(yīng)用場景?？蛻艨梢詷?gòu)建由130億和700億個(gè)參數(shù)的Llama 2模型驅(qū)動(dòng)的生成式AI應(yīng)用程序，且無需設(shè)置和管理任何基礎(chǔ)設(shè)施。

  Amazon CodeWhisperer新功能將允許客戶使用私有代碼庫安全地定制CodeWhisperer代碼建議，進(jìn)一步提升開發(fā)人員效率

  Amazon CodeWhisperer是一款基于AI的編程助手，它通過對(duì)數(shù)十億行來自亞馬遜和公開可用的代碼進(jìn)行訓(xùn)練，提高開發(fā)人員的生產(chǎn)力。雖然開發(fā)人員在日常工作中頻繁使用CodeWhisperer，但有時(shí)他們需要將其企業(yè)內(nèi)部私有代碼庫(例如內(nèi)部API、代碼庫、軟件包和類)整合到應(yīng)用程序中，而這些代碼都不屬于CodeWhisperer的訓(xùn)練數(shù)據(jù)。內(nèi)部代碼的使用也是一個(gè)難題，因?yàn)檎f明文檔有限，并且沒有開發(fā)人員可以求助的公共資源或論壇。

  例如，要編寫一個(gè)用于從購物車中移除商品的函數(shù)，開發(fā)人員必須首先了解用于與應(yīng)用程序交互的API、集合和其他內(nèi)部代碼。以前，開發(fā)人員可能需要花費(fèi)數(shù)小時(shí)來檢查以前編寫的內(nèi)部代碼，從而找到所需信息并理解其工作原理。即使找到了正確的資源，他們?nèi)孕枳屑?xì)檢查代碼，以確保其符合公司編碼的最佳實(shí)踐，并且不會(huì)重復(fù)引用代碼中的任何缺陷或漏洞。

  Amazon CodeWhisperer新定制功能將解鎖生成式AI編程的全部潛力，通過安全地利用客戶的內(nèi)部代碼庫和資源提供定制化建議。這使得開發(fā)人員在各種任務(wù)中能夠更準(zhǔn)確地獲得代碼建議，從而節(jié)省時(shí)間。首先，管理員需要從源(例如GitLab或Amazon S3)連接到他們的私有代碼存儲(chǔ)庫，并調(diào)度一個(gè)作業(yè)來創(chuàng)建自己的定制內(nèi)容。在創(chuàng)建定制內(nèi)容時(shí)，CodeWhisperer利用各種模型和上下文定制技術(shù)，學(xué)習(xí)客戶的代碼庫并改進(jìn)實(shí)時(shí)代碼建議，從而使開發(fā)人員花更少的時(shí)間去尋找無差別的問題的正確答案，同時(shí)將更多時(shí)間投入到創(chuàng)建新的差異化體驗(yàn)上。管理員可以在亞馬遜云科技控制臺(tái)(Amazon Console)集中管理所有定制功能、查看評(píng)估指標(biāo)、估算每個(gè)定制功能的性能，并有選擇地將它們部署給公司內(nèi)特定的開發(fā)人員，以限制對(duì)敏感代碼的訪問。

  通過選擇高質(zhì)量的存儲(chǔ)庫，管理員可以確保CodeWhisperer提供的定制建議不包含已棄用的代碼，以滿足企業(yè)質(zhì)量與安全標(biāo)準(zhǔn)。考慮到企業(yè)級(jí)安全和隱私，這項(xiàng)功能可以確保定制內(nèi)容完全私密，而支持CodeWhisperer的底層基礎(chǔ)模型在訓(xùn)練過程中不使用定制內(nèi)容，能夠保護(hù)客戶寶貴的知識(shí)產(chǎn)權(quán)。該自定義功能將很快作為CodeWhisperer企業(yè)版的一部分在預(yù)覽中提供給客戶使用。此外，CodeWhisperer的自定義設(shè)置默認(rèn)確保了安全性，無論客戶使用 Amazon CodeWhisperer專業(yè)版還是企業(yè)版，在處理來自開發(fā)人員IDE的請求時(shí)，亞馬遜云科技均不會(huì)存儲(chǔ)或記錄任何客戶內(nèi)容。

  Amazon QuickSight的新生成式BI創(chuàng)作功能，可以幫助業(yè)務(wù)分析師使用自然語言命令輕松創(chuàng)建和定制數(shù)據(jù)可視化效果

  Amazon QuickSight是一個(gè)為云端構(gòu)建的統(tǒng)一BI服務(wù)，能夠創(chuàng)建交互式儀表盤、分頁報(bào)告以及嵌入式分析，同時(shí)具備使用QuickSight Q進(jìn)行自然語言查詢的能力，因此企業(yè)的每位用戶都能以他們偏好的格式獲取所需的洞察。

  通常情況下，商業(yè)分析師需要花費(fèi)數(shù)小時(shí)使用BI工具來探索各種不同的數(shù)據(jù)源，添加計(jì)算、創(chuàng)建和完善可視化效果，然后將它們呈現(xiàn)在儀表盤中提供給業(yè)務(wù)利益相關(guān)者。要?jiǎng)?chuàng)建一個(gè)簡單的圖表，分析師首先必須找到正確的數(shù)據(jù)源、識(shí)別數(shù)據(jù)字段、設(shè)置過濾器，同時(shí)進(jìn)行必要的個(gè)性化設(shè)置以實(shí)現(xiàn)良好的可視化效果。

  如果進(jìn)行數(shù)據(jù)可視化需要進(jìn)行新的計(jì)算(例如年度銷售額)，分析師還必須確定所需的參考數(shù)據(jù)，然后創(chuàng)建、驗(yàn)證并將視覺效果添加到報(bào)告中。如果可以減少商業(yè)分析師手動(dòng)創(chuàng)建和調(diào)整圖表和計(jì)算所花費(fèi)的時(shí)間，讓他們將更多時(shí)間投入到高價(jià)值的任務(wù)中，企業(yè)也能從中獲益。

  新的生成式BI創(chuàng)作功能擴(kuò)展了QuickSight Q的自然語言查詢功能，使其不僅能夠回答清晰表述的問題(例如，“加利福尼亞州銷售排名前10的產(chǎn)品是什么?”)，還能幫助分析師從問題片段(例如，“銷售排名前10的產(chǎn)品”)快速創(chuàng)建可定制的視覺效果，通過提出后續(xù)問題來澄清查詢意圖，優(yōu)化視覺效果，并完成復(fù)雜的計(jì)算。業(yè)務(wù)分析師只需描述想獲得的結(jié)果，QuickSight即可生成具有良好觀感的視覺對(duì)象。分析師僅需簡單操作就能將其輕松添加到儀表盤或報(bào)告中。

  例如，分析師可以要求QuickSight Q為“2022年和2023年運(yùn)動(dòng)鞋銷售額的月度趨勢”創(chuàng)建可視化內(nèi)容，該服務(wù)會(huì)自動(dòng)選擇合適的數(shù)據(jù)，并根據(jù)請求使用最合理的圖表格式(比如線形圖或條形圖)繪制所需信息。QuickSight Q還將提供預(yù)設(shè)的提示問題，幫助分析師澄清在多個(gè)數(shù)據(jù)字段與其匹配查詢時(shí)可能出現(xiàn)的歧義(比如圖表應(yīng)包括運(yùn)動(dòng)鞋銷售額的美元總額還是銷售的單位個(gè)數(shù))。

  分析師獲得了最初的可視化內(nèi)容后，還可以使用自然語言添加復(fù)雜的計(jì)算，改變圖表類型，或優(yōu)化可視化效果。QuickSight Q中新的生成式BI創(chuàng)作功能使業(yè)務(wù)分析師能夠輕松快捷地創(chuàng)建良好的視覺效果，更快速地為大規(guī)模數(shù)據(jù)驅(qū)動(dòng)型決策提供寶貴的信息依據(jù)。

  千行百業(yè)的客戶都在利用亞馬遜云科技的生成式AI服務(wù)創(chuàng)建新的應(yīng)用程序，提高開發(fā)人員的效率，以及幫助分析師更快速地獲取洞察

  阿迪達(dá)斯是全球最大的運(yùn)動(dòng)品牌之一。 “我們很高興能參與Amazon Bedrock預(yù)覽版的試用，親身體驗(yàn)這項(xiàng)服務(wù)。Amazon Bedrock對(duì)我們的生成式AI工具構(gòu)建大有裨益，Amazon Bedrock 承擔(dān)了構(gòu)建生成式AI應(yīng)用的繁重基礎(chǔ)設(shè)施管理工作，使我們能夠?qū)Ｗ⒂诖笳Z言模型項(xiàng)目的核心方面?！卑⒌线_(dá)斯企業(yè)架構(gòu)副總裁Daniel Eichten表示，“我們已經(jīng)使用Amazon Bedrock開發(fā)了一款生成式AI解決方案，使阿迪達(dá)斯的廣大工程師只需通過單個(gè)對(duì)話界面，就能從知識(shí)庫中找到所需的各種信息和答案，回答從入門到復(fù)雜的多種技術(shù)問題。”

  默克是一家研發(fā)密集型生物制藥公司，130多年來一直致力于發(fā)現(xiàn)和研發(fā)創(chuàng)新藥物和疫苗，以拯救生命和改善健康?！巴暾闹扑巸r(jià)值鏈上存在很多手動(dòng)且耗時(shí)的流程，這些流程阻礙了更有價(jià)值的工作的開展，同時(shí)還不能有效利用數(shù)據(jù)改善員工、客戶和患者體驗(yàn)?！蹦藬?shù)據(jù)科學(xué)執(zhí)行董事Suman Giri表示，“借助Amazon Bedrock，我們迅速建立了生成式AI功能，使知識(shí)挖掘和市場研究等工作更高效。在我們的美國患者分析工作流程中，我們可以利用這些功能提供對(duì)患者治療的見解，提高生活質(zhì)量，擴(kuò)大商業(yè)影響力，同時(shí)填補(bǔ)數(shù)據(jù)共享方面的空白，為負(fù)責(zé)任的生成式AI打造數(shù)據(jù)治理生態(tài)系統(tǒng)?！?

  寶馬集團(tuán)是全球頂級(jí)的汽車和摩托車制造商之一?！皩汃R的區(qū)域?qū)＜抑铝τ趦?yōu)化整條供應(yīng)鏈的庫存。他們經(jīng)常收到董事會(huì)成員或供應(yīng)鏈專家等利益相關(guān)者的請求，要求創(chuàng)建新的儀表盤視圖，以便他們分析最新趨勢?！睂汃R集團(tuán)數(shù)據(jù)工程和分析專家Christoph Albrecht表示，“QuickSight Q創(chuàng)作體驗(yàn)?zāi)軌蝻@著節(jié)省時(shí)間，可以在無需參考的情況下創(chuàng)建計(jì)算、快速構(gòu)建視覺效果，然后通過自然語言對(duì)可視化呈現(xiàn)進(jìn)行精確調(diào)整。區(qū)域?qū)＜业目焖俜答伣o我們的業(yè)務(wù)用戶留下了深刻印象，從而讓他們可以更快地做出重要決策。”