科技公司押注世界已經準備好迎接“AI代理人”- 彭博社
Shirin Ghaffary
攝影師：Nicolas Maeterlinck/AFP/Getty Images如果2023年是AI聊天機器人的一年，那麼現在正在成為AI代理的一年。但首先…
三件事情要知道：
• 根據微軟的一份新報告，國家支持的黑客正在使用AI改進網絡攻擊• OpenAI推出了一個新的AI系統，可以將文本轉換成逼真的視頻• 聯邦貿易委員會希望懲罰公司使用AI進行冒充
下一個前沿
AI聊天機器人可以為晚餐建議食譜，或者為去里斯本的旅行提供詳細的行程安排，但它實際上無法為您從超市訂購食物或者預訂您的航班。現在，科技公司正在押注人們希望所謂的“AI代理”可以在很少或沒有人類監督的情況下為他們執行這些任務。在上個月的Alphabet收益電話會議上，首席執行官Sundar Pichai 表示，生成式AI將使Google助手等產品“隨着時間的推移更像代理”，並且最終可能“超越答案，為用户提供更多的跟進”。微軟一直在推出其Copilot產品，宣傳為“日常AI伴侶”，具有直接在Outlook和PowerPoint中起草電子郵件和幻燈片的能力。而OpenAI自11月的開發者大會以來一直在談論代理，現在正在構建兩種新類型的AI代理產品，根據The Information的報道。該公司還提供其他產品，包括ChatGPT的可定製版本，它被描述為構建AI代理的一步。
硅谷長期以來一直提供數字助手來加快任務完成，比如使用亞馬遜的Alexa來訂購衞生紙或播放一首歌。但是早期的這些工具“在理解你的意圖方面有些侷限”，OpenAI的開發者體驗負責人Romain Huet説道。因此，他説，這些服務很少超出簡單的家務活，比如開關燈。“代理變得更有趣的原因是因為模型變得如此強大，”Huet説道。“有了像GPT-4這樣的模型，你可以給它們一個非常複雜的任務，你會看到更大的價值。”包括Adept、Imbue和Luda在內的許多初創公司已經籌集了數百萬美元的資金來追求代理，這項技術被稱為代理式人工智能。本週，OpenAI的主席Bret Taylor推出了一家名為Sierra的新創公司，專注於為企業構建對話式人工智能代理。他告訴彭博社，這項技術很快將和移動應用或網站一樣重要。
但是雖然一些人工智能代理已經可用，但並非所有的都同樣有用。“在當前的代理炒作週期中，每個人都在推銷一些你可以在Twitter上快速展示的東西，但是當真正需要的時候，它們並不那麼有用，”Adept的聯合創始人Luan説道，該公司正在為企業構建代理。Luan是OpenAI的前工程副總裁，他説他從“人們稱之為代理之前”就一直在研究代理式人工智能。Adept現在已經有幾個大型付費的企業客户，幫助他們處理人力資源、財務、醫療保健和供應鏈等領域的任務。例如，Luan説，該軟件可以幫助公司通過整合人力資源、工資和信息技術等領域的數據來幫助新員工入職，並在他們開始工作時發送相關信息。
構建AI代理存在挑戰，包括可靠性問題。AI聊天機器人仍然在獲取基本事實方面存在困難，特別是關於當前事件。如果AI聊天機器人在文本交流中出錯，那就沒什麼大不了的。但是，如果它代表你採取現實世界的行動，風險就會大得多。“我們發現，當今最缺乏的是用户信任，” AI初創公司Imbue的聯合創始人兼首席執行官Kanjun Qiu説。“許多用户會嘗試代理產品，並説‘有點有趣’，但如果他們不信任它，他們就不會用它來做任何事情。”
如果大型語言AI模型繼續改進其推理能力並更加可靠，用户信任可能會增加。但Qiu説，設計AI代理不斷與人們核對情況同樣重要，類似於員工向老闆分享項目進展情況。“OpenAI的一組研究人員在12月份發表了一篇論文，概述了安全使用AI代理的最佳實踐。研究人員表示，如果執行不當，對有缺陷的AI代理的過度依賴‘可能創造出廣泛使用不安全AI系統的條件，最壞的情況可能是災難性的。’一個關注的領域是，如果用户‘不願意或無法關閉’造成傷害的AI代理系統。”為了減少這些風險，該論文提出了負責任地設計AI代理的建議，例如讓工具在執行任務之前徵得用户的批准，建立“優雅關閉程序”的系統，並設置次級AI程序來監控代理的行為。AI代理，也許甚至比聊天機器人更能讓科技公司展示人工智能的全部承諾：讓我們的日常生活更輕鬆。然而，在這個過程中，它可能加劇我們對AI失控或取代工人的一些最大恐懼。我們將看看公眾是否已經準備好迎接它。
**有關人工智能的問題？**給我發電子郵件，Shirin Ghaffary，我會盡量在未來的新聞簡報中回答你的問題。
人工智能和媒體
本·史密斯，新聞初創公司Semafor的聯合創始人兼編輯，是媒體界最瞭解內情的人之一，此前曾擔任BuzzFeed News的主編，並在紐約時報擔任媒體專欄作家。（我也曾在2017年在BuzzFeed News的視頻團隊工作，當時史密斯是主編。）現在，他正處於媒體新聞室積極採用生成式人工智能的最前沿。Semafor最近宣佈與微軟合作，利用微軟和OpenAI的人工智能技術幫助記者進行新聞內容的研究和翻譯。該新聞網站將標記利用人工智能進行研究的文章，作為名為Semafor Signals的新推送的一部分。我與史密斯進行了交流，瞭解了他對人工智能的看法以及他為何認為科技公司在與媒體合作方面採取了不同的方法。
**彭博社：您能談談您是如何與微軟合作的嗎？您是否與OpenAI或其他著名的人工智能公司進行了交流？****本·史密斯：**我們已經在使用這個特定產品，[ChatGPT]。但這並不是一個自上而下的新聞室倡議。這是[記者] J.D. Capelouto和我們的執行編輯Gina Chua長期研究這項技術……他們兩個只是在研究這些東西，不是為了滿足某種公司的要求，而只是因為這很有趣且有用。
新聞編輯室的反應如何？記者們喜歡它嗎？
我認為它解決了一個非常具體的新聞編輯室問題。所以人們在使用它，他們喜歡它。我不認為有人會認為，“哇，這太完美了，我現在只工作四個小時，機器人會替我做我的工作。” 更多的是：有很多強大的數字工具，無論是谷歌文檔還是Grammarly，都已經在網絡發佈中出現。它也只是一個幫助記者完成工作的強大技術工具。雖然它相當神奇。相當酷。
本·史密斯攝影師：邁克爾·洛奇薩諾/蓋蒂圖片社 您有沒有估計它可能已經為記者節省了多少時間？
它並不是節省記者的時間，而是使最終產品更加豐富。我們能夠包含更多的聲音，更多的觀點。讓記者在所有這些語言中搜索從經濟上講是不合理的。它基本上只是擴大了我們的視野。您如何確保它抓取的信息是準確的？
我們不是簡單地摘要併發布它們。它基本上是為我們找到東西，然後，就像處理任何其他故事一樣，我們確保它是一個可靠的來源，並對其進行框架化和概念化。特別是考慮到紐約時報對OpenAI的訴訟，您認為媒體和科技如何合作最終會導致訴訟嗎？
哦，當然。它已經開始了。我認為AI有很多不同的軌道。《紐約時報》同時在兩條軌道上。他們正在起訴 — 並且他們非常雄心勃勃，正在進行許多非常有趣和雄心勃勃的產品開發。我認為出版商們將不得不捍衞他們的商業利益，達成交易並想出如何利用這些技術。我認為出版商和平台都對這些都是一種工業關係和安排有更清醒的認識，而不是一種星眸的烏托邦，我認為這可能更健康。
你是什麼意思？
這些巨大的[出版商]提供非常非常有價值的訓練數據。看起來平台也已經承認了這一點，現在我們正在就價格進行爭論。這是新的。搜索和社交平台過去認為可以隨意使用內容，就像《十誡》一樣。我認為這種觀點已經不再持有。現在你需要就價值和定價進行談判和訴訟，但似乎雙方都採取了更加務實的方法。至少目前，科技公司認識到他們需要向使用他們內容的媒體實體支付一些費用。**對於那些看到裁員，看到媒體行業已經在掙扎，並擔心AI會使新聞質量變差而不是變好的人，你有什麼話要説？**我認為對新聞質量的威脅早於AI。AI是一個真正的中期威脅，但並不是上個月有數百名記者被解僱的原因。對我來説，AI的最大短期威脅與這個非常特殊的事情有關，即當一個新的視頻或音頻錄音出現在政治辯論中時，你現在真的不知道它是真實的。如果唐納德·特朗普的《好萊塢通行證》錄音今天被公佈，他可以説那是一個深度偽造，你和我怎麼知道呢？這將需要一個非常繁瑣的驗證過程。也許這最終對記者來説是一個巨大的機會，但現在感覺像是對錯誤信息生態系統和尋求真相的人的巨大威脅。但我認為這不是商業模式的威脅，這只是一件可怕的事情。即使在這筆交易之前，你是否使用生成式AI工具？
我主要把它們當玩具用。我曾經採訪過Pickleball的CEO，並畫了撒旦打Pickleball的插圖。類似這樣的傻傻的東西。實際上，我發現它對旅行規劃很有用。比如我想弄清楚去哪裏，比如：“離紐約這麼遠的城市温度是多少。”
本週人物語錄
“如果你在進行AI洗腦，就像‘希爾教授’唱的那樣，‘你就有麻煩了’。”
Gary Gensler
SEC主席
Gensler警告上市公司必須避免對他們如何使用人工智能進行誇大的宣稱。“這種AI洗腦，無論是公司籌集資金還是金融中介…都可能違反證券法”，他説。
值得關注的人物
Alphabet總裁、首席信息官兼首席財務官Ruth Porat談論人工智能如何改變科技、金融和醫療保健。Bloomberg### 深度學習
- 據報道，OpenAI正在開發搜索產品，挑戰谷歌
- 知名的OpenAI研究員Andrej Karpathy離開了OpenAI，但他表示這並沒有導致他做出這個決定的“戲劇”
- 美國專利商標局表示，只有人類而不是人工智能可以申請專利發明
- 家庭密碼可以幫助保護你免受人工智能發起的勒索嘗試
- Adobe正在非常謹慎地將人工智能融入一切
彭博社更多內容
獲取科技日報以及更多彭博科技週刊，直接發送到您的收件箱：
- 網絡公告涵蓋黑客和網絡間諜的陰影世界
- 遊戲進行中報道視頻遊戲業務
- 開機提供蘋果獨家新聞、消費者科技新聞等
- 屏幕時間觀看好萊塢和硅谷碰撞的第一排座位
- 聲音片段報道播客、音樂行業和音頻趨勢
以色列總理本雅明·內塔尼亞胡選擇不派代表團前往開羅進行旨在與哈馬斯達成停火的後續談判，再次駁回激進組織的要求稱其為“妄想”。
以色列方面表示，伊朗支持的激進組織必須改變立場，以色列才會在談判中扮演進一步的角色。哈馬斯堅持要求以色列從加沙完全撤軍，以換取人質釋放，而內塔尼亞胡已經明確排除了這種可能。
閲讀更多：真主黨對以色列發動襲擊，加劇中東緊張局勢
哈馬斯被美國和歐盟視為恐怖組織，還要求釋放在以色列拘留的所有巴勒斯坦囚犯，包括那些被判犯有謀殺和其他暴力行為的人。
以色列代表團由情報機構摩薩德負責人大衞·巴內亞領導，週二從埃及的談判返回。
“內塔尼亞胡堅稱以色列不會屈服於哈馬斯的妄想要求，”他的辦公室表示。“哈馬斯立場的改變將促使談判取得進展。”
以色列誓言摧毀哈馬斯
伊朗支持控制加沙的激進組織哈馬斯，以及黎巴嫩的真主黨
來源：彭博社
這些評論發表的同時，以色列和真主黨之間的緊張局勢也在升級，當時黎巴嫩向以色列的一個城鎮和軍事基地發動了比平時更強烈的火箭襲擊。以色列進行了大規模的炮擊真主黨在黎巴嫩南部的據點和城鎮作為報復。真主黨也得到伊朗的支持，並被美國指定為恐怖組織。
以色列在開羅會談中的立場表明停火，即使是臨時性的，仍然是一個遙遠的前景。與此同時，國際社會對擔心逐漸加劇，因為有超過100萬名巴勒斯坦難民在加沙南部的拉法市避難。以色列軍方正在準備對這個靠近埃及邊境的城鎮發動進攻，他們表示哈馬斯的餘部武裝人員駐紮在那裏，內塔尼亞胡承諾會在此之前讓平民撤離。
埃及媒體報道稱，美國中央情報局局長威廉·伯恩斯會見了巴內亞以及卡塔爾總理和埃及情報部負責人，討論了一項協議。
內塔尼亞胡最初拒絕派遣以色列代表團參加談判，但最終在美國總統喬·拜登的壓力下同意這樣做，據Ynet報道。在哈馬斯於10月7日對以色列發動襲擊後，大約250名被哈馬斯劫持的人中仍有130多人被囚禁在加沙。
閲讀更多： 即使避免更大規模戰爭，美國仍將面臨來自加沙的後果
人質家屬論壇表示，根據一份聲明，家屬們“對阻撓開羅談判的決定感到震驚”。