人工智能代理正式進入職場，缺陷與共 - 彭博社

Anthropic 網站。

攝影師：Gabby Jones/Bloomberg在二月份，我 寫道 在這份通訊中，2024 年將是 AI 代理的年份。現在它們已經到來，並被用於自動化以前需要人類工人完成的任務。但首先……

三件事需要知道：

• 白宮敦促各機構 採用 AI 用於軍事、間諜用途• 谷歌的 Anthropic AI 投資遭到 正式的英國合併調查• 俄羅斯用 深度偽造視頻 詆譭卡馬拉·哈里斯，微軟表示

不需要 401(k)

當開發人員想要找出他們正在構建的網站或應用程序是否存在問題時，他們通常依賴工人進行繁瑣的代碼錯誤檢查。但最近，編碼軟件初創公司 Replit——已經為其用户自動化了部分審查——開始使用 Anthropic 開發的新 AI 服務來處理整個過程，而無需任何人蔘與。

“實際上，大多數時候它比人類更好，”Replit 首席執行官 Amjad Masad 説。“人類有點懶惰，會感到煩惱，並且不會測試所有內容。這要徹底得多。”

週二，Anthropic 成為第一家主要 AI 公司，發佈 一種所謂的 AI 代理，可以接管一個人的計算機，代表他們輸入、點擊和瀏覽互聯網。根據該公司的説法，這種被稱為“計算機使用”的能力旨在幫助專業人士進行研究和處理重複性工作。

Anthropic 是越來越多的科技公司之一，這些公司正在從可以產生聰明回應的 AI 聊天機器人擴展到能夠在最少人類監督下執行現實世界任務的 AI 代理。就在本週早些時候，微軟 推出 了自己的企業代理套件，這些代理可以在銷售、客户支持和會計等領域完成任務。此發佈加劇了與競爭對手 Salesforce 的競爭，後者也在代理方面進行了推動。

像微軟這樣的公司在後台已經有了一段時間這種技術的元素，但現在這些代理工具開始變得對用户更加具體。“這確實是我們説的第一組代理，‘好吧，我們構建了一些，讓我們給你們展示一下，’”負責微軟工作場所 AI 產品的賈裏德·斯帕塔羅説。

雖然 AI 代理的設計各不相同，但目標大致相同：簡化任務，使人們在個人和職業生活中更高效。高管們將這些工具宣傳為替代人類認為無聊或乏味的工作。一些商業領袖也坦誠這種技術有可能降低成本，這可能引發人們對 AI 取代工作的長期擔憂。

ServiceNow 首席執行官比爾·麥克德莫特本週告訴我的同事布羅迪·福特，他公司的新 AI 代理“不會吃東西”，可以全天候工作。“你不必給他們提供 401k！”他補充道。這家軟件公司的代理目前正在一些客户中進行測試，並將在下個月更廣泛發佈，他説。在九月份，Salesforce 首席運營官布萊恩·米爾哈姆 表示 使用該公司代理的客户可能會選擇在未來僱傭更少的人。他舉了一個例子，説明一個 5000 人的呼叫中心在五年內需要減少 30% 的員工。

ServiceNow的首席執行官比爾·麥克德莫特表示，他公司的新AI代理“不會吃東西”，並且可以全天候工作。攝影師：大衞·保羅·莫里斯/彭博社但這一批新的AI代理仍然存在缺陷。與許多AI服務一樣，代理可能會犯錯誤。Anthropic表示，其新代理仍然無法完成人類輕鬆完成的基本任務，例如滾動或拖動。而且顯然，就像人類一樣，這些代理也會分心。

在Anthropic製作演示視頻的某個時刻，該公司表示其代理“突然休息”不再編碼，而是開始“瀏覽黃石國家公園的照片”。

還有信任的問題。雖然注重預算的高管可能急於採用代理以提高效率，但許多普通用户可能還沒有準備好放棄控制。請求聊天機器人為電子郵件提供建議回覆是一回事；讓AI系統自動起草並代表您回覆消息則是另一回事。

即使是開發代理的最先進公司也知道這一點。這就是為什麼代理目前主要被推廣給能夠設定限制的企業和開發者，他們希望將工作流程的哪些部分委託給AI，Anthropic的聯合創始人兼首席科學官賈裏德·卡普蘭説。“我們不建議人們在不受控制的情況下讓它接管，”卡普蘭説。

對人工智能有問題嗎？ 發郵件給我，Shirin Ghaffary，我會在未來的新聞通訊中嘗試回答你的問題。

本週人類名言

“未經許可使用創作作品來訓練生成性人工智能，對那些作品背後的人們的生計構成了重大且不公正的威脅，絕不應被允許。”

成千上萬的作者、演員和音樂家——包括Thom Yorke、Kevin Bacon和James Patterson——簽署了一份簡短聲明，呼籲科技公司在未獲得許可的情況下使用藝術家的作品來訓練人工智能系統的做法。### 值得關注的人

諾貝爾化學獎得主、谷歌DeepMind高級研究科學家John Jumper，與彭博社的Rachel Metz在2024年彭博科技倫敦會議上討論藥物發現的未來。### 深度學習

• 人工智能搜索初創公司Perplexity正在進行新一輪融資談判，估值為90億美元
• Character.AI正在面臨訴訟，因一名青少年的自殺事件
• 一位前OpenAI研究員表示該公司違反了版權法
• OpenAI聘請了一位前Uber高管擔任首席合規官
• 這些是今年值得關注的25家英國初創公司

來自彭博社的更多信息

獲取每日科技以及更多彭博科技週刊到您的郵箱：

• 網絡簡報，涵蓋黑客和網絡間諜活動的陰暗世界
• 遊戲進行中，報道視頻遊戲行業
• 電力開啓，獲取蘋果新聞、消費科技新聞等
• 屏幕時間，前排觀看好萊塢與硅谷的碰撞
• 聲音片段，報道播客、音樂產業和音頻趨勢