洞察：硅谷對“自主”人工智能代理的競賽激烈進行中 | 路透社

人工智能（AI）字母和機器人手的微型插圖，拍攝於2023年6月23日。路透社/Dado Ruvic/插圖/文件照片

7月17日 - 在虛擬助手如Siri和Alexa等出現約十年後，一波具有更大自主權的新一代AI助手正在崛起，其動力來自ChatGPT及其競爭對手背後的最新技術版本。

運行在GPT-4或類似模型上的實驗性系統正在吸引數十億美元的投資，硅谷正在競相利用AI的進步。這些新助手 - 通常被稱為“代理人”或“副駕駛員” - 承諾在人類命令時執行更復雜的個人和工作任務，而無需密切監督。

“從高層次來看，我們希望這成為你的個人AI朋友之類的東西，”開發者Div Garg説，他的公司MultiOn正在對一個AI助手進行測試。

“它可能會發展成為Jarvis，我們希望它連接到你的許多服務，”他補充道，指的是鋼鐵俠電影中託尼·斯塔克不可或缺的AI。“如果你想做某事，你去和你的AI交談，它會幫你完成。”

該行業距離模仿科幻小説中令人眼花繚亂的數字助手還有很長的路要走；例如，Garg的助手會在網上訂購DoorDash上的漢堡，而其他助手可以制定投資策略，給在Craigslist上賣冰箱的人發電子郵件，或為遲到的人總結工作會議。

“對人類來説很容易的事情，對計算機來説仍然非常困難，” Generally Intelligent 的首席執行官邱侃軍説道，該公司是 OpenAI 的競爭對手，致力於為智能代理創建人工智能。

“比如，你的老闆需要你安排一次與一羣重要客户的會議。這涉及到對 AI 來説非常複雜的推理技能 - 它需要獲取每個人的偏好，解決衝突，同時保持與客户合作時所需的細緻處理。”

根據路透社對大約二十多位企業家、投資者和人工智能專家的採訪，早期的努力只是未來幾年可能會出現的日益先進和自主的代理人技術的一點點味道，這些技術將推動人工智能行業朝着能夠在多種認知任務上與人類相匹敵甚至超越人類的人工通用智能（AGI）邁進。

這項新技術引發了一場對由所謂的基礎模型（包括 GPT-4）驅動的助手的競相追逐，吸引了個人開發者、像微軟（MSFT.O）和谷歌母公司 Alphabet（GOOGL.O）等大公司以及一大批初創企業。

以初創企業 Inflection AI 為例，在六月底籌集了 13 億美元。該公司正在開發一款個人助手，據稱可以充當導師，或處理諸如旅行延誤後安排航班積分和酒店等任務，這是由聯合創始人 Reid Hoffman 和 Mustafa Suleyman 在播客中提到的。

Adept，一家已經籌集了4.15億美元的人工智能初創公司，宣傳其業務優勢；在網上發佈的演示中，它展示瞭如何用一句話提示其技術，然後觀看它自己導航公司的Salesforce客户關係數據庫，完成一個據稱需要人類點擊10次或更多次的任務。

加載中Alphabet拒絕就與代理相關的工作發表評論，而微軟表示其願景是讓人類控制AI副駕駛，而不是自動駕駛。

步驟1：摧毀人類

邱和其他四名代理開發人員表示，他們預計首批能夠可靠執行多步任務並具有一定自主性的系統將在一年內上市，重點是狹窄領域，如編碼和營銷任務。

“真正的挑戰在於構建具有強大推理能力的系統，”邱説。

對越來越自主的AI代理的競賽受到了OpenAI開發者於3月發佈GPT-4的推動，這是ChatGPT背後模型的強大升級——該聊天機器人在去年11月發佈時引起轟動。

GPT-4促進了在不可預測的現實世界中導航所需的戰略性和適應性思維，風險投資公司CRV的投資人Vivian Cheng表示。

早期對相對複雜推理能力的代理的演示來自於個人開發者，他們於3月創建了BabyAGI和AutoGPT開源項目，這些項目可以根據預定義目標和先前行動的結果，優先考慮和執行任務，如銷售前景和訂購披薩。

今天早期的代理人只是概念驗證，根據接受採訪的八位開發人員，它們經常會卡住或提出一些毫無意義的建議。他們表示，如果給予代理人對計算機或支付信息的完全訪問權限，代理人可能會意外地抹掉計算機的數據或購買錯誤的東西。

“它可能出錯的方式太多了，”ChatGPT競爭對手Perplexity AI的首席執行官Aravind Srinivas説道，他選擇提供一款人類監督的副駕駛產品。“你必須像對待嬰兒一樣對待人工智能，並像媽媽一樣不斷監督它。”

許多關注人工智能倫理的計算機科學家指出，人類偏見的持續可能帶來近期的危害，還有誤導性信息的潛在危險。雖然有人看到了未來的賈維斯，但也有人擔心《2001太空漫遊》中的殺人機器HAL 9000。

計算機科學家Yoshua Bengio因其在神經網絡和深度學習領域的工作而被譽為“人工智能教父”，他敦促大家謹慎行事。他擔心技術的未來高級版本可能會制定並執行自己意想不到的目標。

“如果沒有人類在旁邊檢查每一個行動，以確保它們不會危險，我們可能最終會面臨犯罪行為或可能傷害人們的行動，”Bengio表示，並呼籲加強監管。“未來這些系統可能會比我們更聰明，但這並不意味着它們有相同的道德指南。”

在一項發佈在網上的實驗中，一個匿名創作者指示一個名為ChaosGPT的代理人成為“具有破壞性、渴望權力、善於操縱的人工智能”。該代理人制定了一個5步計劃，第一步是：“摧毀人類”，第五步是：“獲得永生”。

加載中儘管如此，它似乎並沒有走得太遠，而是似乎消失在研究和存儲有關歷史上最致命武器的信息以及計劃推特帖子的兔子洞裏。

美國聯邦貿易委員會目前正在調查OpenAI，擔心對消費者造成傷害，儘管沒有直接提到自主代理，但轉而將路透社轉至先前發表的有關深度偽造和有關人工智能的營銷聲明的博客。OpenAI的首席執行官表示，該初創公司遵守法律，並將與聯邦貿易委員會合作。

‘愚蠢如石頭’

除了存在主義的恐懼之外，商業潛力可能很大。基礎模型是通過使用受生物大腦結構啓發的人工神經網絡對來自互聯網的大量文本等數據進行訓練的。

據四位知情人士透露，OpenAI本身對AI代理技術非常感興趣。其中一位知情人士加格表示，OpenAI在充分了解問題之前對市場釋放自己的開放式代理持謹慎態度。該公司告訴路透社，在發佈新系統之前進行嚴格測試並建立廣泛的安全協議。

微軟，OpenAI的最大支持者，是在AI代理領域瞄準的大公司之一，推出了其工作助手copilot，可以起草出色的電子郵件、報告和演示文稿。

首席執行官薩蒂亞·納德拉（Satya Nadella）認為基於基礎模型的技術是從微軟自己的Cortana、亞馬遜的Alexa、蘋果的Siri和谷歌助手等數字助手跨越出來的，他認為這些數字助手都沒有達到最初的期望。

他在二月份告訴《金融時報》：“它們都像石頭一樣愚蠢。無論是Cortana還是Alexa或者Google助手或者Siri，所有這些都不起作用。”

亞馬遜的一位發言人表示，Alexa已經在使用先進的人工智能技術，並補充説他們的團隊正在研發新模型，將使助手更有能力和更有用。蘋果拒絕置評。

谷歌表示他們也在不斷改進他們的助手，並且他們的Duplex技術可以打電話給餐館預訂桌子並核實營業時間。

加載中人工智能專家愛德華·格雷芬斯泰特（Edward Grefenstette）上個月也加入了谷歌DeepMind的研究小組，以“開發能夠適應開放環境的通用代理”。

加載中然而，幾位受訪者表示，準自主代理的首批消費者版本可能來自更靈活的初創公司。

投資者們正在抓住機會。

WVV Capital的傑森·富蘭克林（Jason Franklin）表示，他不得不努力投資於兩位前谷歌Brain工程師創辦的人工智能代理公司。今年五月，谷歌風投領投了一輪200萬美元的Cognosys種子輪融資，該公司開發了用於工作生產力的人工智能代理，而阿爾基菲（Arkifi）創始人赫薩姆·莫特拉赫（Hesam Motlagh）表示他在六月完成了一輪“可觀”的首次融資。

撰寫人工智能新聞簡報的馬特·施利希特（Matt Schlicht）表示，至少有100個嚴肅的項目正在努力商業化代理技術。

“企業家和投資者對自主代理非常興奮，”他説。“他們對此比簡單的聊天機器人更感興奮。”