為什麼人工智能投資者應該擔心自動駕駛汽車事故 - 彭博社

攝影師：Matthew Porter 為彭博商業週刊在12月中旬，通用汽車公司首席執行官瑪麗·巴拉撥打了與分析師的電話會議，並宣佈決定“重新調整我們的自動駕駛戰略。”該公司正在關閉其無人駕駛汽車的開發——由一家名為Cruise的子公司運營——並將團隊併入通用汽車負責其常規車型軟件的部門。巴拉表示，這與“加速前進的道路，為客户提供有意義的好處”有關。

被呈現為戰略轉變的同時也是對失敗的深刻承認。多年來，巴拉——就像許多科技和汽車行業的高管一樣——描繪了一個奇幻的未來願景，聲稱所謂的機器人出租車車隊將很快取代普通汽車。根據通用汽車的老闆的説法，這項技術已經開發出來；剩下的唯一工作就是擴大規模。“我們在這裏。這正在發生，”她在2023年南方西南會議上自豪地説。她經常聲稱，通用汽車在最近一個季度的收入約為500億美元，到2030年將從機器人出租車中每年額外獲得500億美元。

通用汽車首席執行官瑪麗·巴拉。攝影師：保羅·桑西亞/AP照片這些預測被證明是極其樂觀的，依賴於可疑的數據和技術上的權宜之計，使公司的軟件看起來比實際更復雜。或許更令人不安的是，在人工智能技術蓬勃發展的背景下，許多大大小小的公司都在考慮用改進版的聊天機器人替代大量人類工人，Cruise並不是唯一一個過度承諾的公司。該公司的失敗不僅為其他試圖銷售機器人出租車的公司提供了一個警示故事，尤其是埃隆·馬斯克的特斯拉公司和谷歌的母公司Alphabet Inc.，而且還表明，AI聊天機器人的運營商（以及依賴這些聊天機器人來證明其高估值的公司）所做的狂野承諾應該謹慎對待，甚至是完全懷疑。畢竟，自動駕駛本應是AI的簡單部分。

彭博社商業週刊歐洲將難以團結一致應對特朗普的威脅Instagram打造的飲品運動品牌如何通過不糟糕的無酒精啤酒引發無酒精啤酒熱潮他建立了俄羅斯最大的科技公司。現在他重新開始——沒有普京儘管失敗，Cruise幾乎是任何公司中最接近運營可行的商業無人駕駛汽車服務的。問題是，它根本沒有那麼接近。在其巔峯時期，Cruise是一個燒錢的新奇事物，由幾百輛汽車和數千名員工管理。這些汽車被限制在高速公路和難以導航的道路上，但它們仍然在市區的消防車和其他緊急車輛中造成了干擾，並在駕駛中出現故障時導致了似乎無法計數的交通延誤。在證據相反的情況下，該公司在2023年夏季投放廣告，宣傳一項研究——當然，這項研究是公司自己進行的——聲稱其汽車優於普通人駕駛的汽車。

這些廣告並沒有明確説明Cruise的“無人駕駛”汽車實際上僅部分自動駕駛；它們依賴於大型人類團隊在呼叫中心監控車輛，並在必要時告訴它們該做什麼。這一事實在行業內並不算秘密：Waymo，Alphabet的無人駕駛汽車子公司，其機器人出租車在洛杉磯、鳳凰城和舊金山越來越普遍，也依賴於所謂的遠程操作員。但這幫助創造了Cruise的軟件比實際更復雜的印象。

然後，在2023年底，一輛Cruise機器人出租車發生了一起事故，一名舊金山行人被另一輛車撞倒，落在了迎面而來的無人駕駛汽車的行駛路徑上。Cruise運營的汽車急剎車，但仍然撞上了這名女性。Cruise並沒有停下來確認她是否安全——一個體面的司機會這樣做——而是繼續行駛，拖着她行駛了20英尺。這名女性倖存下來，但因重傷住院。根據彭博新聞的報道，Cruise最終以約1000萬美元的金額< a href=“https://hk.outputnews.com/2024/bloomberg/news_2024_05_15_740238” target="_blank">和受害者達成和解，並向州和聯邦監管機構支付了因隱瞞事故細節而產生的罰款。Cruise暫停了運營（公司當時表示是暫時的），其首席執行官辭職。

自從收購Cruise以來的八年裏，通用汽車在運營該部門上耗費了超過100億美元。“現金支出對於如此低的投資回報來説實在是驚人，”喬治梅森大學機器人中心主任、前國家公路交通安全管理局顧問Missy Cummings説。關於Cruise的傳統觀點認為，通用汽車的問題是獨特的，是運氣不佳和公司無能的某種組合。但Cummings表示，那些相信這一點的人誤解了公司發生的事情以及其同行似乎正在發生的事情。

像Cruise一樣，Waymo在建立一個雖然在技術上令人印象深刻但實際上只是在少數地方以低於正常速度運營的適度車隊的過程中花費了鉅額資金，並且遇到了不少問題。例如，在12月，一位Waymo客户試圖使用該服務前往洛杉磯機場時抱怨自己被困在一輛機器人出租車中，這輛車無緣無故地決定無休止地循環在機場停車場。他撥打了客户支持電話，一名代理讓車停了下來。Alphabet並未報告Waymo的損失，但其“其他投資”部門，包括Waymo，自2016年以來已損失約370億美元。Waymo目前正在測試高速公路駕駛，但尚未向客户提供這些乘車服務；Cummings表示，這是因為他們還不能安全地做到這一點。結果是一個在舊金山受到遊客歡迎但僅因谷歌搜索引擎帶來的鉅額利潤而在商業上可行的服務。“他們所取得的成就是巨大的，”Cummings説。“但他們仍然限速在每小時45英里，他們不想談論這個。”她表示，功能齊全的機器人出租車仍需幾十年才能實現。

去年夏天，一輛Waymo無人駕駛汽車在舊金山的Uber總部前。照片：Getty Images未能成功訓練計算機達到任何優步司機的能力（在15年內將裝載傳感器的汽車送上數百萬英里的道路）應該讓一些同樣的公司停下來思考，因為他們試圖使用類似的技術來取代人類執行更復雜的任務。駕駛——與撰寫新聞故事或為銀行提供客户服務等活動不同——相對簡單，是一種受明確定義的規則支配的活動，無論你身在何處，這些規則大致相同。

早期的自動駕駛演示，始於2000年代中期，看起來幾乎像真的一樣。公司高管和風險投資家自信地預測，剩下的只是解決少數所謂的邊緣案例，例如教汽車遵循緊急工作人員的指示和應對惡劣天氣。自那時以來，投資超過1000億美元，但邊緣案例仍未解決，且無人駕駛汽車沒有人能盈利。

回想起來，卡明斯説，早期的自動駕駛先驅將演示誤認為幾乎完成的產品，她表示聊天機器人供應商也犯了同樣的錯誤。大型語言模型在某些類型的人類輸出上接近於逼近，但它們也容易出錯。它們“幻覺”事實的傾向，粗略地與無人駕駛汽車中一個持續存在的問題“虛假剎車”相平行，尚未得到解決。即使是最複雜的聊天機器人在大多數工作中出錯的頻率也使它們不可靠，至少在沒有持續監督的情況下。與無人駕駛汽車一樣，你需要人類來確保機器人不會在你的新聞故事中編造事實（這是試圖部署它們的媒體機構面臨的一個大問題），或者阻止它們 説髒話或鼓勵自殘。

與機器人出租車一樣，聊天機器人運行的成本超過了任何人願意支付的費用，這導致一些人，例如高盛的股票研究負責人吉姆·科維洛，建議人工智能的繁榮實際上是一個投機泡沫。OpenAI的隱含估值接近1600億美元，是有史以來最富有的初創公司，但它每年虧損數十億美元。

然後是市場的問題：機器人出租車替代了大多數人覺得乏味的東西。今天的緩慢且有些有限的無人駕駛汽車顯然是有用的——至少在它們被大量補貼的價格下——如果你恰好是一個內向的人或遊客。但是聊天機器人（想想馬克·扎克伯格在他的社交網絡中插入的AI角色，以保持人們的滾動）讓我們遠離生活中實際上，嗯，真實的部分。接下來閲讀：扎克伯格再次重寫他的言論自由理想