雲廠商巨頭亞馬遜雲科技狂投40億美元后再放大招，強勢發佈五項生成式AI創新_風聞

來源：36氪CSND

作者：亞馬遜雲科技

毋庸置疑，生成式 AI 正迅速變革我們的工作方式，不少開發者和企業積極擁抱這股智能化浪潮， 應用前沿 生成式 AI 技術來提高工作效率，創新和重塑產品和 服務。

同時全球科技巨頭積極佈局生成式 AI，例如近日 亞馬遜雲科技宣佈推出五項生成式 AI 創新，使各種規模的企業都可以構建新的生成式 AI 應用程序，提高員工生產力並完成業務轉型。 這五項創新包括：

1、亞馬遜雲科技全面託管服務 Amazon Bedrock 正式可用，通過統一的應用程序編程接口（API）提供來自領先 AI 公司的基礎模型（FM）；

2、亞馬遜雲科技宣佈 Amazon Titan Embeddings 模型正式可用，為客户提供更多基礎模型選擇；

3、Amazon Bedrock 最新引入了 Meta Llama 2 模型，這是第一個通過 API 提供完全託管 Meta Llama 2 模型的服務；

4、AI 編程助手 Amazon CodeWhisperer 的新功能即將提供預覽，可以根據企業的內部代碼庫安全地定製 CodeWhisperer 的代碼建議，助力開發人員從生成式 AI 中獲得更大價值；

5、Amazon QuickSight 的生成式 BI 創作功能現已推出預覽版，可以提高業務分析師的工作效率。這一功能是雲原生構建的統一 BI 服務，使客户能夠通過自然語言簡單地描述他們想要的內容，從而創建可視化內容、格式化圖表、執行計算等。

從 Amazon Bedrock、Amazon Titan Embeddings，再到 Amazon CodeWhisperer 和 Amazon QuickSight，這些創新增強了亞馬遜雲科技在生成式 AI 堆棧各個層面的能力，無論任何規模的企業都可在獲得企業級安全和隱私保護的同時，選擇模型並進行模型定製。

“在過去的一年裏，海量數據的爆炸、大規模彈性算力的就位，以及機器學習技術的快速進步點燃了人們對生成式 AI 的熱情，深刻改變了各行各業，並重塑了人們的工作方式。”亞馬遜雲科技數據和機器學習全球副總裁 Swami Sivasubramanian 表示，“憑藉企業級的安全和隱私保護、領先的基礎模型選擇、數據為先的方法論，以及高性能、具有成本效益的基礎架構，亞馬遜雲科技贏得了企業的信賴，並在技術棧的每一層使用生成式 AI 解決方案助力企業不斷創新。這次的發佈是一個重要的里程碑，它將生成式 AI 提供給每個企業，從初創企業到大型企業的每個員工，從開發工程師到數據分析師。通過強大的創新，亞馬遜雲科技為企業帶來了更強的安全性、多種選擇和出色的性能，同時還幫助它們緊密對齊企業的數據戰略，進而能夠充分釋放生成式 AI 的潛力。”

各行各業的企業無論規模大小，都渴望藉助生成式 AI 來變革運營方式，重新思考解決複雜問題的方法，並創造全新的用户體驗。儘管生成式 AI 的最新進展引起了廣泛關注，但許多企業還未能參與到這一轉型過程中。它們一邊對使用生成式 AI 充滿渴望，一邊又對這些工具的安全性和隱私問題憂心忡忡。這些企業希望能夠測試多種基礎模型，從而找到最適合自己應用場景的模型。它們還希望最大限度地利用已經擁有的數據，通過定製模型來為最終用户提供獨特的體驗。最後，企業需要工具將創新迅速推向市場，還需要具備在全球範圍內部署生成式 AI 應用程序的基礎設施。

這就是為什麼眾多企業正在向亞馬遜雲科技尋求生成式AI服務，比如阿迪達斯、Alida、寶馬集團、Genesys、Glide、GoDaddy、Intuit、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、美巡賽、Verint、Verisk 和 WPS 等。

01

Amazon Bedrock 正式可用，幫助更多客户構建和擴展生成式 AI 應用程序

Amazon Bedrock 是一項完全託管的服務，提供了來自眾多領先 AI 公司（包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜）面向海外業務的的高性能基礎模型，以及企業構建生成式 AI 應用程序所需的一系列功能，能夠在實現簡化開發的同時確保隱私性和安全性。基礎模型具有良好的適用性，可為信息搜索、內容創建及藥物發現等諸多領域提供支持。但是對於許多希望利用生成式 AI 的企業來説，尚有一些問題需要解決。首先，它們需要簡單直觀的選取和訪問高性能基礎模型，滿足其場景需求且表現優異；其次，客户希望應用程序實現無縫集成，無需管理龐大的基礎設施集羣或花費大量成本；最後，客户希望藉助基礎模型並結合自身數據來輕鬆構建差異化的應用程序，而這些客户用於定製的數據無疑是非常寶貴的資產，具有知識產權，因此在使用過程中必須做到全面保護，在確保安全和隱私的同時，保證客户對數據共享和使用方式擁有控制權。

藉助 Amazon Bedrock 的完善功能，企業能夠更方便、輕鬆地嘗試多種領先的基礎模型，使用自己的專有數據定製模型。此外，Amazon Bedrock 還提供差異化能力，例如無需再編寫任何代碼便可創建的託管代理（AI agent），它可以執行復雜任務，如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。由於 Amazon Bedrock 採用無服務器（serverless）技術，客户不必管理任何基礎設施，就可以使用已經熟悉的亞馬遜雲科技服務將生成式 AI 能力安全地集成和部署到應用程序中。

Amazon Bedrock 在開發之初就考慮到安全性和隱私保護，幫助客户保護敏感數據。客户可以使用 Amazon PrivateLink，在Amazon Bedrock與虛擬私有網絡（VPC）之間建立專門的安全連接，確保任何數據傳輸都不會暴露在公共網絡。對於存在高度監管需求的客户，Amazon Bedrock 符合 HIPAA（《健康保險流通與責任法案》）要求，並且可以在 GDPR（歐盟《通用數據保護條例》）合規標準下使用，讓更多的客户從生成式 AI 中獲益。

02

Amazon Bedrock通過 Amazon Titan Embeddings 和 Llama 2 進一步擴大可選模型範圍，幫助每個客户找到適合應用場景的模型

事實上，沒有任何一個單一模型可以適用於所有的應用場景。因此，為了挖掘生成式 AI 的價值，企業往往需要訪問多個模型，根據自己的要求尋找最適合的那一個。為此，Amazon Bedrock 讓出海客户只需通過單一 API 就能找到和測試 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜提供的領先的基礎模型。此外，亞馬遜雲科技近日還宣佈了 Anthropic 未來的所有基礎模型都將在 Amazon Bedrock 上可用，併為亞馬遜雲科技出海客户提供模型定製和微調等特殊功能的優先訪問。而現在起，Amazon Bedrock 再次引入新的基礎模型帶來更多選擇：

Amazon Titan Embeddings 現正式可用 ：Amazon Titan 基礎模型是由亞馬遜雲科技在大型數據集上創建和預訓練的一系列模型，可以支持各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings 是一種大語言模型（LLM），它將文本轉換成被稱為嵌入向量（embeddings）的數值表示，以支持檢索增強生成（RAG）的應用場景。基礎模型雖然適用於多種任務，但卻只能根據從訓練數據和提示詞上下文中學到的信息來回答問題。一旦這些回答需要利用高時效性的知識或專有數據時，其有效性就會受限。為了能通過擴展數據來改進基礎模型的回答，許多企業將目光轉向 RAG ——這一流行的模型定製技術能將基礎模型連接到可被引用的知識庫，從而改進響應效果。要開始使用 RAG，客户必須先訪問一個嵌入模型，將數據轉換成嵌入向量，使基礎模型更容易理解數據之間的語義和關係。然而，構建嵌入模型需要大量的數據和資源，以及深厚的機器學習專業知識，因此很多客户很難完成自行構建，也就無法實現 RAG。Amazon Titan Embeddings 使客户能夠更簡單地啓用 RAG，以便利用專有數據擴展各種基礎模型的能力。Amazon Titan Embeddings 支持超過25種語言和多達8192個 token 的上下文長度，非常適合基於企業的應用場景處理單個單詞、短語或整個文檔。該模型可返回1536個維度的輸出向量，確保高度準確性的同時還專為實現更低延遲和更優性價比進行了優化。

Llama 2 即將在未來幾周推出 ：Amazon Bedrock 是業界首個通過託管 API 提供 Meta 下一代大語言模型 Llama 2 的完全託管的生成式 AI 服務。Llama 2 模型比之前的 Llama 模型有了顯著改進，包括使用了比原始訓練多40%的訓練數據，並具有更長的上下文長度（4000個 token），以處理更大的文檔。Amazon Bedrock 提供的 Llama 2 模型已經過優化，可以在亞馬遜雲科技基礎設施上提供快速響應，非常適合對話式應用場景。客户可以構建由130億和700億個參數的 Llama 2 模型驅動的生成式 AI 應用程序，且無需設置和管理任何基礎設施。

03

Amazon CodeWhisperer 新功能將允許客户使用私有代碼庫安全地定製 CodeWhisperer 代碼建議，進一步提升開發人員效率

Amazon CodeWhisperer 是一款基於 AI 的編程助手，它通過對數十億行來自亞馬遜和公開可用的代碼進行訓練，提高開發人員的生產力。雖然開發人員在日常工作中頻繁使用 CodeWhisperer，但有時他們需要將其企業內部私有代碼庫（例如內部 API、代碼庫、軟件包和類）整合到應用程序中，而這些代碼都不屬於 CodeWhisperer 的訓練數據。內部代碼的使用也是一個難題，因為説明文檔有限，並且沒有開發人員可以求助的公共資源或論壇。

例如，要編寫一個用於從購物車中移除商品的函數，開發人員必須首先了解用於與應用程序交互的 API、集合和其他內部代碼。以前，開發人員可能需要花費數小時來檢查以前編寫的內部代碼，從而找到所需信息並理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查代碼，以確保其符合公司編碼的最佳實踐，並且不會重複引用代碼中的任何缺陷或漏洞。

Amazon CodeWhisperer 新定製功能將解鎖生成式 AI 編程的全部潛力，通過安全地利用客户的內部代碼庫和資源提供定製化建議。這使得開發人員在各種任務中能夠更準確地獲得代碼建議，從而節省時間。首先，管理員需要從源（例如 GitLab 或 Amazon S3）連接到他們的私有代碼存儲庫，並調度一個作業來創建自己的定製內容。在創建定製內容時，CodeWhisperer 利用各種模型和上下文定製技術，學習客户的代碼庫並改進實時代碼建議，從而使開發人員花更少的時間去尋找無差別的問題的正確答案，同時將更多時間投入到創建新的差異化體驗上。管理員可以在亞馬遜雲科技控制枱（Amazon Console）集中管理所有定製功能、查看評估指標、估算每個定製功能的性能，並有選擇地將它們部署給公司內特定的開發人員，以限制對敏感代碼的訪問。

通過選擇高質量的存儲庫，管理員可以確保 CodeWhisperer 提供的定製建議不包含已棄用的代碼，以滿足企業質量與安全標準。考慮到企業級安全和隱私，這項功能可以確保定製內容完全私密，而支持 CodeWhisperer 的底層基礎模型在訓練過程中不使用定製內容，能夠保護客户寶貴的知識產權。該自定義功能將很快作為 CodeWhisperer 企業版的一部分在預覽中提供給客户使用。此外，CodeWhisperer 的自定義設置默認確保了安全性，無論客户使用 Amazon CodeWhisperer 專業版還是企業版，在處理來自開發人員 IDE 的請求時，亞馬遜雲科技均不會存儲或記錄任何客户內容。

04

Amazon QuickSight 的新生成式 BI 創作功能，可以幫助業務分析師使用自然語言命令輕鬆創建和定製數據可視化效果

Amazon QuickSight 是一個為雲端構建的統一 BI 服務，能夠創建交互式儀表盤、分頁報告以及嵌入式分析，同時具備使用 QuickSight Q 進行自然語言查詢的能力，因此企業的每位用户都能以他們偏好的格式獲取所需的洞察。

通常情況下，商業分析師需要花費數小時使用 BI 工具來探索各種不同的數據源，添加計算、創建和完善可視化效果，然後將它們呈現在儀表盤中提供給業務利益相關者。要創建一個簡單的圖表，分析師首先必須找到正確的數據源、識別數據字段、設置過濾器，同時進行必要的個性化設置以實現良好的可視化效果。

如果進行數據可視化需要進行新的計算（例如年度銷售額），分析師還必須確定所需的參考數據，然後創建、驗證並將視覺效果添加到報告中。如果可以減少商業分析師手動創建和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。

新的生成式 BI 創作功能擴展了 QuickSight Q 的自然語言查詢功能，使其不僅能夠回答清晰表述的問題（例如，“加利福尼亞州銷售排名前10的產品是什麼？”），還能幫助分析師從問題片段（例如，“銷售排名前10的產品”）快速創建可定製的視覺效果，通過提出後續問題來澄清查詢意圖，優化視覺效果，並完成複雜的計算。業務分析師只需描述想獲得的結果，QuickSight 即可生成具有良好觀感的視覺對象。分析師僅需簡單操作就能將其輕鬆添加到儀表盤或報告中。

例如，分析師可以要求 QuickSight Q 為“2022年和2023年運動鞋銷售額的月度趨勢”創建可視化內容，該服務會自動選擇合適的數據，並根據請求使用最合理的圖表格式（比如線形圖或條形圖）繪製所需信息。QuickSight Q 還將提供預設的提示問題，幫助分析師澄清在多個數據字段與其匹配查詢時可能出現的歧義（比如圖表應包括運動鞋銷售額的美元總額還是銷售的單位個數）。

分析師獲得了最初的可視化內容後，還可以使用自然語言添加複雜的計算，改變圖表類型，或優化可視化效果。QuickSight Q 中新的生成式 BI 創作功能使業務分析師能夠輕鬆快捷地創建良好的視覺效果，更快速地為大規模數據驅動型決策提供寶貴的信息依據。

05

千行百業的客户都在利用亞馬遜雲科技的生成式 AI 服務創建新的應用程序，提高開發人員的效率，以及幫助分析師更快速地獲取洞察

阿迪達斯是全球最大的運動品牌之一。“我們很高興能參與 Amazon Bedrock 預覽版的試用，親身體驗這項服務。Amazon Bedrock 對我們的生成式 AI 工具構建大有裨益，Amazon Bedrock 承擔了構建生成式 AI 應用的繁重基礎設施管理工作，使我們能夠專注於大語言模型項目的核心方面。”阿迪達斯企業架構副總裁 Daniel Eichten 表示，“我們已經使用 Amazon Bedrock 開發了一款生成式 AI 解決方案，使阿迪達斯的廣大工程師只需通過單個對話界面，就能從知識庫中找到所需的各種信息和答案，回答從入門到複雜的多種技術問題。”

默克是一家研發密集型生物製藥公司，130多年來一直致力於發現和研發創新藥物和疫苗，以拯救生命和改善健康。“完整的製藥價值鏈上存在很多手動且耗時的流程，這些流程阻礙了更有價值的工作的開展，同時還不能有效利用數據改善員工、客户和患者體驗。”默克數據科學執行董事 Suman Giri 表示，“藉助 Amazon Bedrock，我們迅速建立了生成式 AI 功能，使知識挖掘和市場研究等工作更高效。在我們的美國患者分析工作流程中，我們可以利用這些功能提供對患者治療的見解，提高生活質量，擴大商業影響力，同時填補數據共享方面的空白，為負責任的生成式 AI 打造數據治理生態系統。”

寶馬集團是全球頂級的汽車和摩托車製造商之一。“寶馬的區域專家致力於優化整條供應鏈的庫存。他們經常收到董事會成員或供應鏈專家等利益相關者的請求，要求創建新的儀表盤視圖，以便他們分析最新趨勢。”寶馬集團數據工程和分析專家 Christoph Albrecht 表示，“QuickSight Q 創作體驗能夠顯著節省時間，可以在無需參考的情況下創建計算、快速構建視覺效果，然後通過自然語言對可視化呈現進行精確調整。區域專家的快速反饋給我們的業務用户留下了深刻印象，從而讓他們可以更快地做出重要決策。”

千行百業的客户都在利用亞馬遜雲科技的生成式 AI 服務創建新的應用程序，你還在觀望嗎？

本發佈僅供參考、交流使用，侵刪。

原文鏈接：https://36kr.com/p/2471165961688965?channel=wechat