一雪前恥！谷歌雲怒推新 AI TPU、接入 Meta 大模型、工作助手_風聞

從基建、到平台再到應用，谷歌雲要在 AI 彎道超車。

作者 | 芯芯

編輯| 靖宇****

谷歌「掉隊了」，在新的 AI 浪潮下，這家硅谷巨頭從引領者變成了追隨者。

搜索巨頭顯然已經開始反攻，今年 5 月的 I/O 大會上，谷歌就亮出了接入 AI 的「谷歌全家桶」。而真正要反超對手，谷歌最大的戰場可能是雲計算。

當地時間 8 月 29 日，谷歌雲在舊金山舉行的 Next ‘23 大會上宣佈了一系列產品更新，包括針對 AI 基礎設施的改進、更強大的 Vertex AI 平台、以及 Duet AI 協作工具等創新。同時，Vertex AI 平台甚至引入了 Meta 和 Anthropic 等對手公司的重要模型，以供開發者選擇。

據谷歌雲首席執行官 Thomas Kurian 稱，目前行業中超 50% 的 AI 初創公司、超過 70% 的生成式 AI 獨角獸都是谷歌雲的客户，其中包括 AI21、Anthropic、Cohere、Jasper、MosaicML、Replit、Runway 和 Typeface。谷歌雲還宣佈與通用汽車等公司建立新的合作。作為「萬年老三」，谷歌雲計算在 AI 上嘗試彎道超車。

01

更具效率的

AI 新基礎設施

在大會上，谷歌雲發佈了生成式 AI 關鍵的基礎設施進展，其中包括 Cloud TPUv5e、搭載英偉達 H100 GPU 的 A3 VM、GKE 企業版本、跨雲網絡以及谷歌分佈式雲 GDC。

谷歌雲首席執行官 Thomas Kurian 稱，Cloud TPUv5e 是谷歌雲迄今為止最經濟、最多性和可擴展性的專用 AI 加速器。用户現在可以使用單一的 Cloud TPU 平台來運行大規模的 AI 訓練和推理。

與上一代相比，TPUv5e 承諾每美元的訓練性能提高了 2 倍，每美元的推理性能也提高了 2 倍甚至更多。谷歌雲高管稱其為「迄今為止最具成本效益和易於使用的雲 TPU。」

谷歌雲 TPU 數據中心 ｜谷歌雲

除了下一代 TPUs，谷歌雲宣佈，由英偉達 H100 GPU 提供動力的 A3 VM 將於下個月正式推出，能夠在之前一代 A2 上提供三倍的訓練性能。

谷歌雲還發布了 GKE 企業版本，使最具挑戰性的、關鍵任務的 AI/ML 工作負載所需的多集羣橫向擴展成為可能。據 Thomas Kurian 稱，用户已經看到了 45% 的生產率提升，同時減少了 70% 以上的軟件部署時間，GKE 帶來的好處包括自動擴展、工作負載編排，可以與 Cloud TPU v5e 一起使用。

鑑於現在大多數大型企業採用多個雲服務提供商，谷歌雲發佈了跨雲網絡平台，旨在幫助用户在雲中連接和保護應用程序，提供基於 ML 的零信任安全套件的支持。據稱，相較於不通過谷歌網絡傳輸流量的情況，使用跨雲網絡可將網絡延遲降低 35%，成本降低 40%。

最後，在 Google 分佈式雲（GDC）方面，谷歌雲正在增強 GDC 產品組合，以在邊緣引入 AI，其中包括 Vertex AI 集成和 GDC Hosted 上的 AlloyDB Omni 的新託管版本。

02

「接入對手」

的 Vertex AI 平台

除了基礎設施更新，谷歌雲還改進了它的綜合 AI 平台 Vertex AI，該平台讓用户能夠構建、部署和擴展機器學習模型。

谷歌雲首席執行官 Thomas Kurian 稱其為「最全面的 AI 平台」，並指出今年 4 月到 7 月，谷歌雲的生成式 AI 客户項目的數量增長了 150 多倍，客户可以訪問 100 多個基礎模型，包括第三方和流行的開源版本，以及面向行業的特定模型，如網絡安全和醫療等。

在大會上，谷歌雲宣佈 Vertex AI Search 和 Conversation 現在已普遍可用，這個工具使用户能夠在幾分鐘內，使用自己的數據創建搜索和聊天應用程序。

Vertex AI Conversation 創建聊天應用程序 ｜ 谷歌雲

Vertex AI 的生成式 AI Studio 為用户提供了調整和自定義模型的工具，包括 Text Embeddings API，該 API 允許開發者基於對文本或圖像的語義理解構建複雜的應用程序，並通過強化學習，深度定製和改進模型性能。

Vertex AI 平台還宣佈推出了幾個新模型和工具，包括將 PaLM 2 升級到 32000 個上下文窗口（相當於約 25000 個單詞，大約 80 頁雙倍行距的文本），以便企業可以輕鬆處理更長的文檔，如研究論文和書籍。此外，他們還將提高 Imagen 的視覺吸引力，並在 Codey 中支持新語言。

在工具方面，對於 PaLM 2 和 Codey，谷歌雲正面向市場提供適配器調整，並引入一種名為 Style Tuning 的新方法，以便企業可以使用少量參考圖像創建符合品牌需求的圖像。

在新模型方面，谷歌雲宣佈來自 Meta 的 Llama 2**，**和 Code Llama 已經可供雲客户使用，還有 Technology Innovative Institute 的 Falcon LLM（一款熱門的開源模型）以及 Anthropic 的 Claude 2 聊天機器人。對於 Llama 2，谷歌雲將成為唯一提供適配器調整和 RLHF 的雲服務提供商。

在 Vertex AI 擴展方面，開發人員可以訪問、構建和管理擴展，提供實時信息，整合公司數據，並代表用户執行操作，這為生成式 AI 應用程序提供了新的可能性。

另外一個值得注意的更新是，谷歌發佈了 Vertex AI 上的數字水印技術，可以將數字水印嵌入到像素圖像中，對人眼來不可見，難以篡改，用於負責任地創建和識別由 AI 生成的圖像。

谷歌雲自稱是第一家為 AI 生成圖像提供此技術的超大規模雲服務提供商，但它並不是第一家推出數字水印工具的科技公司。

今年 5 月，微軟承諾使用「加密方法」為 AI 生成的圖像和視頻添加水印，生成 AI 初創公司 Midjourney 也採用了相關指南，在生成 AI 創建的內容中嵌入標記，OpenAI 的 DALL-E 2 也會在生成的圖像右下角插入一個小水印。

谷歌雲的數字水印工具與谷歌 DeepMind 合作推出，目前處於測試階段，只對 Google Vertex AI 的部分用户開放，而且只支持由谷歌自家的圖像生成模型創建的圖像。根據 DeepMind 的説法，能夠識別 AI 生成的內容對於防止虛假信息的傳播至關重要，該數字水印工具「並不是絕對可靠的，但它提供了一個有希望的技術途徑，可以幫助人們和組織負責任地處理 AI 生成的內容。」

此外，據谷歌雲首席執行官 Thomas Kurian 稱，當用户使用 Vertex AI 自定義和訓練模型時，包括來自 SaaS 應用程序、數據庫或其他專有源的私有文檔和數據，這些數據不會暴露給基礎模型，用户的提示和數據不會用於改善他們的模型，也不會被其他客户訪問。

03

更多功能的 Duet AI

Duet AI 是一款在線 AI 協作工具，於 5 月的 I/O 大會首次亮相，當時他們展示了它的各種功能。自那以來，谷歌一直在擴展其功能，並將其整合到谷歌 Workspace 和谷歌雲的各種產品和服務中。

首先是 Workspace，據稱已經有 30 多億的用户和 1000 多萬的付費客户。Duet AI 為 Workspace 增加了許多功能，包括在 Gmail 和 Google Docs 中幫用户編寫和改進內容，在 Google Slides 中創建原始圖像，以及將數據轉化為 Google Sheets 中的見解等。

據谷歌雲首席執行官 Thomas Kurian 稱，自 Duet AI 發佈以來，成千上萬家公司和超過 100 萬測試人員已經用過它。在 Next ‘23 大會上，谷歌雲還宣佈了 Duet AI 一些新的增強功能。

首先是 Google Meet 中的 Duet AI，它可以在視頻會議期間記錄筆記、發送會議摘要，還可自動將字幕翻譯成 18 種語言。

Google Meet 中的 Duet AI 生成會議摘要｜谷歌雲

然後是 Google Chat 中的 Duet AI，用户將能夠直接與 Duet AI 聊天，詢問有關內容的問題，獲取在一個空間中共享的文檔摘要，並跟蹤錯過的對話。

Google Chat 的產品經理形容，這相當於讓用户擁有「一個具有無限記憶和驚人記憶力的同事」。

根據谷歌雲的介紹，如果在會議中遲到，谷歌可以顯示會議中間摘要，讓人瞭解前面發生了什麼；在會議期間，還可以與谷歌的聊天機器人私下交談，討論會議細節；在會議結束後，可以保存會議摘要，以便後續查看。

此外，用户甚至可以不用出席一場會議，讓 Duet AI 代為出席，谷歌可以自動生成用户可能想討論的內容。

事實上，除了谷歌，微軟和 Zoom 已經推出了基於自身服務的 AI 會議摘要，這類 AI 總結有效的前提是會議內容清晰，能夠被準確捕捉，谷歌是否能夠如其宣傳的那樣，真的幫人開會，實際應用中 AI 是否會出錯，還需要市場進一步驗證。

除了 Workspace，Duet AI 現在還可以在各種谷歌雲產品和服務中提供 AI 輔助，例如作為編程助手、專家顧問、數據分析師和安全顧問等。Duet AI 在谷歌雲上的進展涵蓋軟件開發、應用程序運營、數據分析、網絡安全等方方面面。

在軟件開發方面，Duet AI 在整個軟件開發生命週期中提供專家支持，通過最小化上下文切換來幫助開發人員更長時間保持流程狀態，從而提高生產力。除了代碼生成，它還可以協助代碼重構，通過簡單的自然語言提示即可完成。

Duet AI 通過自然語言提示重構代碼 ｜谷歌雲

在應用程序和基礎設施運營方面，運營商可以在谷歌雲控制枱的多個服務中，使用自然語言與 Duet AI 聊天，以快速檢索有關基礎設施配置等信息。

在數據分析領域，BigQuery 中的 Duet AI 為編寫 SQL 查詢和 Python 代碼提供上下文幫助，生成完整的函數和代碼塊，幫助用户分析和可視化數據，並以自然語言解釋 SQL 語句，並可以根據模式和元數據生成建議。

BigQuery 中的 Duet AI 進行數據分析 ｜谷歌雲

在網絡安全方面，Duet AI 還將應用於安全產品，在 Google Cloud Security Command Center 中提供安全建議，幫助識別、分類和快速解決漏洞和威脅。

谷歌雲還聲明，「數據就是你的數據」，用户代碼、輸入到 Duet AI 以及由 Duet AI 生成的建議將不會用於訓練共享模型，也不會用於開發任何產品。

作為 AI 界的巨頭和雲計算領域的重要玩家，谷歌的身份類似微軟，兩者都既有云計算「基建」，同時在 C 端有大量應用，可供 AI 落地——兩者的策略，從某種程度上也代表了巨頭公司在這一波 AI 浪潮中的典型動作和思考。

例如，在 Vertex AI  平台，引入 Meta 和 Anthropic 的大語言模型，似乎印證了在 AI 工具平台層面，單模型模式一定走不通，而用更開放的心態，引入多模型模式，才符合大勢。Duet AI 在 Google Meet 上的總結、替代開會等功能，又和釘釘剛剛發佈的「數字員工」有異曲同工之處，説明在辦公 SaaS 領域，AI 落地時能玩出的花樣還不多，反而可能是更有潛力百花齊放的領域。

*頭圖來源：Google Cloud

本文為極客公園原創文章，轉載請聯繫極客君微信 geekparkGO