Manus AI尚未準備好面對世界，我們亦是如此——彭博社

Manus AI智能體的有限能力反而是種恩賜。

攝影師：林易/Bloomberg

經過更長時間的壓力測試後，這款來自中國不知名初創公司的爆紅人工智能代理Manus AI顯然尚未做好正式商用的準備。

別誤會，我仍對其部分能力感到驚歎。它能根據指令開發出極具吸引力的俄羅斯方塊類遊戲，在東京旅遊區推薦的低調酒吧正是我想要的。但正如我此前撰文所述，系統存在故障和崩潰問題。雖然擅長某些任務，卻難以獨立完成晚餐預訂、網購等操作。

彭博觀點企業死神正在敲響Z世代的大門如何靠1美元檸檬水賺取數十億《敵對外僑法》並非驅逐出境的充分依據戰爭鼓聲迴盪在鋼鐵廢料場開發團隊已承認當前版本"仍處於雛形階段，與最終目標相去甚遠"。不過這個已具實力的智能體要實現更大突破，或許只是時間問題。

但能力越大責任越大，因此有限的服務器容量對Manus及其用户而言或許是件好事。我越是要求它執行任務，就越不得不考慮潛在的嚴重後果。

硅谷過去一年一直在宣揚代理型AI產品——即允許技術自主行動的AI——將成為下一波浪潮。但只需一個這些工具失控的實例，熱情就會迅速消退並轉為憂慮。這可能包括AI代理進行未經授權的網購、分享不準確信息或泄露隱私數據。更不用説惡意行為者可能利用其規模化實施難以估量的網絡破壞活動。

長久以來，在安全問題上我們一直聽任製作這些AI模型的大型科技公司主導決策，尤其是在全球政策制定者對制定法規行動遲緩的情況下。Manus表明，如今一家名不見經傳的中國公司也能利用現成技術打造強大AI產品——並將其推向全球。

對這新一代敢闖敢拼的全球初創企業而言，率先發布產品——即使是預覽版——也能激發公眾和潛在投資者的巨大熱情。OpenAI、谷歌和美國大型實驗室至少會因聲譽風險而自我約束，這促使他們在開發具有哪怕微小自主性的AI工具時，必須認真考慮必要的防護措施。

然而，新一代科技公司在打響知名度的競賽中損失更小。Manus證明，小型團隊可以通過在現有技術基礎上串聯創新，打造出強大的人工智能產品。此次發佈的病毒式傳播效應，甚至可能促使其他企業在缺乏安全網的情況下加速將這些產品推向市場。

深度求索向華盛頓展示了中國科技公司具備突破性創新的強大能力。而Manus傳遞了不同的信號：它向世界發出警示——行業格局已變，這引發了比"中美科技競賽誰將勝出"更深刻的命題。誰來決定該賦予AI工具多少自主權？如果基於多家企業技術構建的AI代理最終出錯，責任該如何劃分？行業發展速度已超越司法判例的形成。當下，企業、政策制定者和監管機構比任何時候都更需要建立全面框架來應對這些關切。

考慮到地緣政治緊張局勢和TikTok的不確定性，中國AI代理在美國市場恐難長久。Manus憑藉炫目的英文演示視頻和新加坡註冊母公司"蝴蝶效應"，顯然劍指海外市場。或許Manus的破局之道在於展現其構建信任的決心——這意味着在建立安全與責任規範前，不應急於向更廣泛公眾推出產品。目前除模糊的隱私政策外，該領域似乎缺乏具體指引。

與此同時，曼努斯只是中國近期一系列公告中的一項，此前習近平主席啓動了自上而下的支持，而深度求索公司重振了國內人工智能的熱潮。上週，阿里巴巴集團控股有限公司推出了其應用夸克的一個類似代理的新版本。隨着模型在中國日益商品化，對這些實用服務的需求只會增加。

換句話説，更多的AI代理——來自中國、美國及其他地區——即將到來。它們不再是我們可以留給下一代去解決的不確定的未來承諾。如果讓機器或製造機器的人成為唯一決定這些工具應具備多少自主權和責任的主體，那將是全球性的失敗。

隨着這些AI代理準備進入黃金時期，政策制定者也必須抓緊時間採取行動。

更多來自彭博觀點的內容：

• 科技巨頭們，別再試圖打造神級AI：帕米·奧爾森
• 英偉達的復興標誌着深度求索大恐慌的結束：戴夫·李
• 深度求索與《哪吒2》帶回了習近平忽視的東西：芮書立

想要更多彭博觀點？輸入OPIN <GO>。或者您可以訂閲我們的每日通訊。