亞馬遜云科技宣布推出生成式AI新服務加速創新

  ICC訊 10月7日消息，亞馬遜云科技宣布推出五項生成式AI創新，使各種規模的企業都可以構建新的生成式AI應用程序，提高員工生產力并完成業務轉型。這五項創新包括：亞馬遜云科技全面托管服務Amazon Bedrock正式可用，通過統一的應用程序編程接口(API)提供來自領先AI公司的基礎模型(FM);亞馬遜云科技宣布Amazon Titan Embeddings模型正式可用，為客戶提供更多基礎模型選擇;Amazon Bedrock最新引入了Meta Llama 2模型，這是第一個通過API提供完全托管Meta Llama 2模型的服務;AI編程助手Amazon CodeWhisperer的新功能即將提供預覽，可以根據企業的內部代碼庫安全地定制CodeWhisperer的代碼建議，助力開發人員從生成式AI中獲得更大價值;Amazon QuickSight的生成式BI創作功能現已推出預覽版，可以提高業務分析師的工作效率。這一功能是云原生構建的統一BI服務，使客戶能夠通過自然語言簡單地描述他們想要的內容，從而創建可視化內容、格式化圖表、執行計算等。從Amazon Bedrock、Amazon Titan Embeddings，再到Amazon CodeWhisperer和Amazon QuickSight，這些創新增強了亞馬遜云科技在生成式AI堆棧各個層面的能力，無論任何規模的企業都可在獲得企業級安全和隱私保護的同時，選擇模型并進行模型定制。

  “在過去的一年里，海量數據的爆炸、大規模彈性算力的就位，以及機器學習技術的快速進步點燃了人們對生成式AI的熱情，深刻改變了各行各業，并重塑了人們的工作方式?！眮嗰R遜云科技數據和機器學習全球副總裁Swami Sivasubramanian表示，“憑借企業級的安全和隱私保護、領先的基礎模型選擇、數據為先的方法論，以及高性能、具有成本效益的基礎架構，亞馬遜云科技贏得了企業的信賴，并在技術棧的每一層使用生成式AI解決方案助力企業不斷創新。今天的發布是一個重要的里程碑，它將生成式AI提供給每個企業，從初創企業到大型企業的每個員工，從開發工程師到數據分析師。通過強大的創新，亞馬遜云科技為企業帶來了更強的安全性、多種選擇和出色的性能，同時還幫助它們緊密對齊企業的數據戰略，進而能夠充分釋放生成式AI的潛力?！?

  各行各業的企業無論規模大小都渴望借助生成式AI來變革運營方式，重新思考解決復雜問題的方法，并創造全新的用戶體驗。盡管生成式AI的最新進展引起了廣泛關注，但許多企業還未能參與到這一轉型過程中。它們一邊對使用生成式AI充滿渴望，一邊又對這些工具的安全性和隱私問題憂心忡忡。這些企業希望能夠測試多種基礎模型，從而找到最適合自己應用場景的模型。它們還希望最大限度地利用已經擁有的數據，通過定制模型來為最終用戶提供獨特的體驗。最后，企業需要工具將創新迅速推向市場，還需要具備在全球范圍內部署生成式AI應用程序的基礎設施。

  這就是為什么眾多企業正在向亞馬遜云科技尋求生成式AI服務，比如阿迪達斯、Alida、寶馬集團、Genesys、Glide、GoDaddy、Intuit、律商聯訊(LexisNexis Legal & Professional)、孤獨星球(Lonely Planet)、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、美巡賽、Verint、Verisk和WPS等。

  Amazon Bedrock正式可用，幫助更多客戶構建和擴展生成式AI應用程序

  Amazon Bedrock是一項完全托管的服務，提供了來自眾多領先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜)面向海外業務的的高性能基礎模型，以及企業構建生成式AI應用程序所需的一系列功能，能夠在實現簡化開發的同時確保隱私性和安全性?；A模型具有良好的適用性，可為信息搜索、內容創建及藥物發現等諸多領域提供支持。但是對于許多希望利用生成式AI的企業來說，尚有一些問題需要解決。首先，它們需要簡單直觀的選取和訪問高性能基礎模型，滿足其場景需求且表現優異;其次，客戶希望應用程序實現無縫集成，無需管理龐大的基礎設施集群或花費大量成本;最后，客戶希望借助基礎模型并結合自身數據來輕松構建差異化的應用程序，而這些客戶用于定制的數據無疑是非常寶貴的資產，具有知識產權，因此在使用過程中必須做到全面保護，在確保安全和隱私的同時，保證客戶對數據共享和使用方式擁有控制權。

  借助Amazon Bedrock的完善功能，企業能夠更方便、輕松地嘗試多種領先的基礎模型，使用自己的專有數據定制模型。此外，Amazon Bedrock還提供差異化能力，例如無需再編寫任何代碼便可創建的托管代理(AI agent)，它可以執行復雜任務，如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。由于Amazon Bedrock采用無服務器(serverless)技術，客戶不必管理任何基礎設施，就可以使用已經熟悉的亞馬遜云科技服務將生成式AI能力安全地集成和部署到應用程序中。

  Amazon Bedrock在開發之初就考慮到安全性和隱私保護，幫助客戶保護敏感數據?？蛻艨梢允褂肁mazon PrivateLink，在Amazon Bedrock與虛擬私有網絡(VPC)之間建立專門的安全連接，確保任何數據傳輸都不會暴露在公共網絡。對于存在高度監管需求的客戶，Amazon Bedrock符合HIPAA(《健康保險流通與責任法案》)要求，并且可以在GDPR(歐盟《通用數據保護條例》)合規標準下使用，讓更多的客戶從生成式AI中獲益。

  Amazon Bedrock通過Amazon Titan Embeddings和Llama 2進一步擴大可選模型范圍，幫助每個客戶找到適合應用場景的模型

  事實上，沒有任何一個單一模型可以適用于所有的應用場景。因此，為了挖掘生成式AI的價值，企業往往需要訪問多個模型，根據自己的要求尋找最適合的那一個。為此，Amazon Bedrock讓出?？蛻糁恍柰ㄟ^單一API就能找到和測試AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的領先的基礎模型。此外，亞馬遜云科技近日還宣布了Anthropic未來的所有基礎模型都將在Amazon Bedrock上可用，并為亞馬遜云科技出?？蛻籼峁┠Ｐ投ㄖ坪臀⒄{等特殊功能的優先訪問。而現在起，Amazon Bedrock再次引入新的基礎模型帶來更多選擇：

  Amazon Titan Embeddings現正式可用：Amazon Titan基礎模型是由亞馬遜云科技在大型數據集上創建和預訓練的一系列模型，可以支持各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings是一種大語言模型(LLM)，它將文本轉換成被稱為嵌入向量(embeddings)的數值表示，以支持檢索增強生成(RAG)的應用場景?；A模型雖然適用于多種任務，但卻只能根據從訓練數據和提示詞上下文中學到的信息來回答問題。一旦這些回答需要利用高時效性的知識或專有數據時，其有效性就會受限。為了能通過擴展數據來改進基礎模型的回答，許多企業將目光轉向RAG——這一流行的模型定制技術能將基礎模型連接到可被引用的知識庫，從而改進響應效果。要開始使用RAG，客戶必須先訪問一個嵌入模型，將數據轉換成嵌入向量，使基礎模型更容易理解數據之間的語義和關系。然而，構建嵌入模型需要大量的數據和資源，以及深厚的機器學習專業知識，因此很多客戶很難完成自行構建，也就無法實現RAG。Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG，以便利用專有數據擴展各種基礎模型的能力。Amazon Titan Embeddings支持超過25種語言和多達8192個token的上下文長度，非常適合基于企業的應用場景處理單個單詞、短語或整個文檔。該模型可返回1536個維度的輸出向量，確保高度準確性的同時還專為實現更低延遲和更優性價比進行了優化。

  Llama 2即將在未來幾周推出：Amazon Bedrock是業界首個通過托管API提供Meta下一代大語言模型 Llama 2的完全托管的生成式AI服務。Llama 2模型比之前的Llama模型有了顯著改進，包括使用了比原始訓練多40%的訓練數據，并具有更長的上下文長度(4000個token)，以處理更大的文檔。Amazon Bedrock提供的Llama 2模型已經過優化，可以在亞馬遜云科技基礎設施上提供快速響應，非常適合對話式應用場景?？蛻艨梢詷嫿ㄓ?30億和700億個參數的Llama 2模型驅動的生成式AI應用程序，且無需設置和管理任何基礎設施。

  Amazon CodeWhisperer新功能將允許客戶使用私有代碼庫安全地定制CodeWhisperer代碼建議，進一步提升開發人員效率

  Amazon CodeWhisperer是一款基于AI的編程助手，它通過對數十億行來自亞馬遜和公開可用的代碼進行訓練，提高開發人員的生產力。雖然開發人員在日常工作中頻繁使用CodeWhisperer，但有時他們需要將其企業內部私有代碼庫(例如內部API、代碼庫、軟件包和類)整合到應用程序中，而這些代碼都不屬于CodeWhisperer的訓練數據。內部代碼的使用也是一個難題，因為說明文檔有限，并且沒有開發人員可以求助的公共資源或論壇。

  例如，要編寫一個用于從購物車中移除商品的函數，開發人員必須首先了解用于與應用程序交互的API、集合和其他內部代碼。以前，開發人員可能需要花費數小時來檢查以前編寫的內部代碼，從而找到所需信息并理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查代碼，以確保其符合公司編碼的最佳實踐，并且不會重復引用代碼中的任何缺陷或漏洞。

  Amazon CodeWhisperer新定制功能將解鎖生成式AI編程的全部潛力，通過安全地利用客戶的內部代碼庫和資源提供定制化建議。這使得開發人員在各種任務中能夠更準確地獲得代碼建議，從而節省時間。首先，管理員需要從源(例如GitLab或Amazon S3)連接到他們的私有代碼存儲庫，并調度一個作業來創建自己的定制內容。在創建定制內容時，CodeWhisperer利用各種模型和上下文定制技術，學習客戶的代碼庫并改進實時代碼建議，從而使開發人員花更少的時間去尋找無差別的問題的正確答案，同時將更多時間投入到創建新的差異化體驗上。管理員可以在亞馬遜云科技控制臺(Amazon Console)集中管理所有定制功能、查看評估指標、估算每個定制功能的性能，并有選擇地將它們部署給公司內特定的開發人員，以限制對敏感代碼的訪問。

  通過選擇高質量的存儲庫，管理員可以確保CodeWhisperer提供的定制建議不包含已棄用的代碼，以滿足企業質量與安全標準?？紤]到企業級安全和隱私，這項功能可以確保定制內容完全私密，而支持CodeWhisperer的底層基礎模型在訓練過程中不使用定制內容，能夠保護客戶寶貴的知識產權。該自定義功能將很快作為CodeWhisperer企業版的一部分在預覽中提供給客戶使用。此外，CodeWhisperer的自定義設置默認確保了安全性，無論客戶使用 Amazon CodeWhisperer專業版還是企業版，在處理來自開發人員IDE的請求時，亞馬遜云科技均不會存儲或記錄任何客戶內容。

  Amazon QuickSight的新生成式BI創作功能，可以幫助業務分析師使用自然語言命令輕松創建和定制數據可視化效果

  Amazon QuickSight是一個為云端構建的統一BI服務，能夠創建交互式儀表盤、分頁報告以及嵌入式分析，同時具備使用QuickSight Q進行自然語言查詢的能力，因此企業的每位用戶都能以他們偏好的格式獲取所需的洞察。

  通常情況下，商業分析師需要花費數小時使用BI工具來探索各種不同的數據源，添加計算、創建和完善可視化效果，然后將它們呈現在儀表盤中提供給業務利益相關者。要創建一個簡單的圖表，分析師首先必須找到正確的數據源、識別數據字段、設置過濾器，同時進行必要的個性化設置以實現良好的可視化效果。

  如果進行數據可視化需要進行新的計算(例如年度銷售額)，分析師還必須確定所需的參考數據，然后創建、驗證并將視覺效果添加到報告中。如果可以減少商業分析師手動創建和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。

  新的生成式BI創作功能擴展了QuickSight Q的自然語言查詢功能，使其不僅能夠回答清晰表述的問題(例如，“加利福尼亞州銷售排名前10的產品是什么?”)，還能幫助分析師從問題片段(例如，“銷售排名前10的產品”)快速創建可定制的視覺效果，通過提出后續問題來澄清查詢意圖，優化視覺效果，并完成復雜的計算。業務分析師只需描述想獲得的結果，QuickSight即可生成具有良好觀感的視覺對象。分析師僅需簡單操作就能將其輕松添加到儀表盤或報告中。

  例如，分析師可以要求QuickSight Q為“2022年和2023年運動鞋銷售額的月度趨勢”創建可視化內容，該服務會自動選擇合適的數據，并根據請求使用最合理的圖表格式(比如線形圖或條形圖)繪制所需信息。QuickSight Q還將提供預設的提示問題，幫助分析師澄清在多個數據字段與其匹配查詢時可能出現的歧義(比如圖表應包括運動鞋銷售額的美元總額還是銷售的單位個數)。

  分析師獲得了最初的可視化內容后，還可以使用自然語言添加復雜的計算，改變圖表類型，或優化可視化效果。QuickSight Q中新的生成式BI創作功能使業務分析師能夠輕松快捷地創建良好的視覺效果，更快速地為大規模數據驅動型決策提供寶貴的信息依據。

  千行百業的客戶都在利用亞馬遜云科技的生成式AI服務創建新的應用程序，提高開發人員的效率，以及幫助分析師更快速地獲取洞察

  阿迪達斯是全球最大的運動品牌之一。 “我們很高興能參與Amazon Bedrock預覽版的試用，親身體驗這項服務。Amazon Bedrock對我們的生成式AI工具構建大有裨益，Amazon Bedrock 承擔了構建生成式AI應用的繁重基礎設施管理工作，使我們能夠專注于大語言模型項目的核心方面?！卑⒌线_斯企業架構副總裁Daniel Eichten表示，“我們已經使用Amazon Bedrock開發了一款生成式AI解決方案，使阿迪達斯的廣大工程師只需通過單個對話界面，就能從知識庫中找到所需的各種信息和答案，回答從入門到復雜的多種技術問題?！?

  默克是一家研發密集型生物制藥公司，130多年來一直致力于發現和研發創新藥物和疫苗，以拯救生命和改善健康?！巴暾闹扑巸r值鏈上存在很多手動且耗時的流程，這些流程阻礙了更有價值的工作的開展，同時還不能有效利用數據改善員工、客戶和患者體驗?！蹦藬祿茖W執行董事Suman Giri表示，“借助Amazon Bedrock，我們迅速建立了生成式AI功能，使知識挖掘和市場研究等工作更高效。在我們的美國患者分析工作流程中，我們可以利用這些功能提供對患者治療的見解，提高生活質量，擴大商業影響力，同時填補數據共享方面的空白，為負責任的生成式AI打造數據治理生態系統?！?

  寶馬集團是全球頂級的汽車和摩托車制造商之一?！皩汃R的區域專家致力于優化整條供應鏈的庫存。他們經常收到董事會成員或供應鏈專家等利益相關者的請求，要求創建新的儀表盤視圖，以便他們分析最新趨勢?！睂汃R集團數據工程和分析專家Christoph Albrecht表示，“QuickSight Q創作體驗能夠顯著節省時間，可以在無需參考的情況下創建計算、快速構建視覺效果，然后通過自然語言對可視化呈現進行精確調整。區域專家的快速反饋給我們的業務用戶留下了深刻印象，從而讓他們可以更快地做出重要決策?！?