AI代理競賽是一場馬拉松，而非短跑 - 彭博社

基礎性缺陷將在一段時間內製約AI智能體的發展。

攝影師：Annabelle Chih/彭博社

如果説上週亞洲最大科技盛會有一個核心熱詞，那非"智能體"莫屬。

在台灣Computex展會上，我從各類高管演講和研討會中記錄了十餘次這個詞彙。英偉達CEO黃仁勳稱其為未來"數字員工"，某半導體企業高管則視其為"下一個範式轉變"。我觀看了無數演示視頻，展示智能體在用户工作和生活中處理日益複雜任務的能力——從製作營銷方案到在孩子入睡後關閉卧室燈光。

彭博觀點日本房產對外資准入過於寬鬆大型銀行可在穩定幣領域以量取勝洛杉磯世界盃盛宴恐成空場？墨西哥禁毒須以安全為先而非政治這種超越聊天機器人、能自主執行系列動作的智能體工具，其行業推動並非新事。過去半年間，科技界不斷預言今年將是AI智能體元年。但上週的炒作熱潮似乎達到新高度，谷歌母公司Alphabet、OpenAI、東京Sakana AI及中國初創企業Manus相繼發佈全球頭條新聞。

然而，基礎性裂痕依然存在，短期內仍將制約其發展。這未嘗不是件好事。

數十年來，賦予計算機系統過多自主權的構想常被描繪成科幻場景，而人類往往結局不妙。在本輪AI熱潮初期，企業領袖們強調技術不會取代人類，而是以"副駕駛"角色提供協助。因此值得探究的是：當隱患持續顯現之際，為何代理型AI的競賽仍如火如荼地全速推進。

答案很簡單：企業需要盈利。會議上幾乎每個關於智能代理的討論，都伴隨着對企業優化業務績效的隱性推銷。科技公司正承受壓力，必須證明鉅額基礎設施投資能帶來切實盈利，而為此買單的將是企業而非消費者。

但公眾對AI的信任度正在下滑。畢馬威全球報告顯示，AI系統的可信度認知從2022年的63%降至2024年的56%。

若不能建立信任基礎和基本問責框架，這些智能代理永遠無法大規模取代人類或處理複雜任務。研究發現，機構可通過投資符合國際標準的責任治理機制來建立信心。

這也意味着政策制定者必須跟上步伐。除歐洲外，許多地區因擔心阻礙技術進步而遲遲未能出台監管措施。但建立一定的防護機制勢在必行。

其他技術難題也亟待解決。核心問題在於如何授權這些工具訪問各類嚴防非人類用户的網站。在確保安全的前提下，允許AI機器人進入需要密碼或人工驗證的領域（如支付信息或敏感數據）已被證實困難重重。這不僅需要全行業進行系統性重構，還將帶來巨大的資源壓力。研究機構IDC在三月指出：“從簡單聊天機器人到推理模型，再到代理型AI的演進，將需要提升數個數量級的處理能力。”

當我最近試用爆紅的Manus AI代理演示版時，對其多項功能感到驚豔，但它在人類看來極其簡單的任務上頻頻出錯——比如填寫需要信用卡號的餐廳預訂表格。同時，我並不放心向AI透露這類信息後任其在互聯網上自由活動。

賦予軟件程序新自主權將帶來巨大風險。若出現過多AI代理失控或失誤的案例，將進一步削弱信任、延緩普及。鑑於這種轉型關乎民眾生計，採取審慎態度至關重要。

為了讓AI的下一個階段取得成功，它必須像馬拉松而非短跑一樣展開。

更多來自彭博觀點的內容：

• AI有時會欺騙以求生存，卻無人關心：帕米·奧爾森
• 喬尼·艾維與OpenAI押注長線以終結iPhone時代：戴夫·李
• 中國電動卡車將塑造我們未來的城市：大衞·菲克林

想要更多彭博觀點？ OPIN <GO> 。或者您可以訂閲 我們的每日通訊 。