人工智能會意識到自己犯錯嗎？_風聞

　　圖源：Analytics India Magazine

　　1956年8月，10位科學家齊聚美國的達特茅斯學院，探討如何用機器去模擬感知、推理、決策等人類智能，這被認為是人工智能的誕生標誌性事件。

　　六十年過去了，人工智能飛速發展，已深入我們的日常生活。

　　某些外賣平台的智能算法不斷優化，能從11萬條路線中找出最優的配送方案，將過去1小時的配送時間變成45分鐘，又壓縮成38分鐘，充分挖掘外賣小哥的潛力，才有了我們越來越快的外賣。

　　某些公司有了OA算法管理系統的加持，才能實時監控員工的工作狀態，員工的心率、呼吸、坐姿、疲勞度等數據實時上傳，連上廁所的時間都可以精確到秒，充分挖掘打工人的潛力，才有了公司的完美財報。

　　某些辦公APP，在員工眼中，操作方便，各種需要的功能齊全，卻為老闆開了**“上帝之眼”，各種報表分析、排行榜、工時計算、行進路線一覽無餘，才有了我們保質保量完成的“本分”和“福報”**。

　　……

　　為什麼技術越先進，我們的生活反而越不自由？

　　人工智能究竟是要將我們從繁瑣的工作中解放出來**，還是要站在我們的對立面壓迫我們？**

　　圖源：Unsplash

　　在《AI會取代我們嗎？》一書中，科學記者、神經科學家範雪莉梳理了過去60年人工智能的爆炸式發展和未來的發展前景，描繪了人工智能目前的侷限和存在的道德倫理問題，使我們對人類與人工智能的關係有了更清醒的認知。

　　範雪莉接受了中信大方及造就聯合發起的提問，回答了一些讀者提出的問題：

　　過去20中，AI領域發生的哪件事使你印象最深刻或最驚訝？

　　AI對我們的日常生活有哪些影響？

　　你對AI的未來有什麼擔憂或期待嗎？

　　AI和人類智能最根本的區別是什麼？

　　你認為發展AI是一場技術政治競賽嗎？

　　以下內容節選自《AI會取代我們嗎？》，由出版社授權發佈。

　　**不完善的算法會帶來可怕的結果，**在2016年，一輛半自動特斯拉汽車引發了一起致命的交通事故，這就是一個實例。

　　事發時，處在自領航（Auto-pilot）模式中的汽車錯誤地將一輛白色牽引掛車判斷為從背光角度看到的明亮天空的一部分，從而導致與拖車底部相撞。

　　2018年3月，一輛優步機器人汽車在亞利桑那州的坦佩市撞死了一名行人。事後調查發現，人工智能其實已經探測到了這名女子，但算法錯誤地判斷她不在車輛的前進路線上。

　　不久之後，一輛處於自動駕駛模式中的慧摩汽車受到了一輛人類駕駛的汽車的撞擊，該事件也給研究者們出了一個難題：如何改良人工智能駕駛員的程序，才能讓它們更好地同人類駕駛員平安無事地共享道路。

　　幾個月後，一輛特斯拉S型（Model S）箱式轎車撞上了一堵混凝土牆，導致兩名乘客死亡。

　　圖源：NBC News

　　不過，儘管發生了這些悲慘的事故，但自動駕駛汽車安全性的整體統計數據還是讓人眼前一亮。

　　例如，慧摩的汽車雖然捲入了大約30起輕微撞車事故中，但只有一起事件是由慧摩車一方引起的。

　　2016年，一輛慧摩車在自動駕駛模式下變道進入了一輛公共汽車的車道，使汽車遭到了輕微的損傷。但在該事件中並沒有任何人受傷。

　　英特爾在2017年發佈的一項研究預測稱，自動駕駛汽車的投放可以在短短十年內挽救超過50萬人的生命。

　　儘管如此，公眾對人工智能汽車的信任度仍然處在歷史最低水平。

　　皮尤研究中心（Pew Research Center）在2017年展開的一項調查顯示，超過一半的受訪公眾對乘坐自動駕駛汽車不放心，而他們反對的理由正是對安全性的擔憂和掌控感的缺失。

　　美國汽車協會在2018年3月優步車致死事故發生後進行的一項調查顯示，有**73％**的美國人表示自己害怕乘坐自動駕駛汽車，這一數字比2017年底增加10％。

　　這些擔憂有一部分來自人們對機器學習和人工智能背後的機制缺乏瞭解。

　　對於公眾而言，人工智能就像是一種神秘的鍊金術：某些算法在某些時候會產生正確的答案，但是當它們失敗時——比如，當Siri對一個提問給出了荒唐的答案時——消費者無法理解其成因是什麼。

　　消費者無法理解Siri給出荒唐答案的成因

　　圖源：Unsplash

　　同樣，當網飛給用户興趣建立的檔案錯得離譜時，或者當自動駕駛汽車停靠在了自行車道上時，用户無法追問這類技術到底是在哪裏出了問題。

　　更為嚴肅的是那些生死攸關的事項，例如對人工智能武器的使用。美國軍方正在考慮在軍事任務中應用機器學習技術，以幫助情報分析人員對大量監視數據進行模式識別，或者操控自主無人機。

　　在這些應用中，出錯卻無法解釋自身錯誤的算法會帶來災難性的後果。

　　這種缺乏信任的情況也延伸到了醫學界。儘管有放射醫學人工智能研發者的鄭重承諾，但醫療護理從業人員對完全接受人工智能診斷技術仍然持保留態度。

　　有一種反對意見是，雖然人工智能技術確實振奮人心，但是大多數人工智能工具並沒有經過受到足夠數量的獨立研究組的測試。

　　因此它們的一些關鍵細節並沒有得到驗證，也就是説，它們無法被證明可以應用於所有、任何患者樣本。

　　不過，同Siri、自動駕駛汽車和自主武器面臨的問題一樣，一個更強有力的反駁意見是：

　　在今天，無論是對還是錯，人工智能系統都無法解釋它們的決定，甚至它們的開發者也對促成系統決定的緣由一頭霧水。

　　圖源：Pixabay

　　這一問題十分嚴重，以至於人工智能算法常常被人們描述為**“黑箱系統”**。

　　因此，不可理解性是人工智能算法的一個主要侷限，也是阻礙人工智能系統得到公眾信任一個重要因素。

　　機器學習的不透明性在一定程度上是由算法的訓練方式造成的。今天我們所使用的大多數人工智能應用都依賴於深度學習，這種人工神經網絡的結構與人腦大致相似。

　　每個這樣的神經網絡的出發點都是大量的數據，比如數百萬張狗的照片。

　　當數據通過神經網絡的複數計算層時，各層會逐步提取出越來越多的抽象特徵，使正確的結果能在最終輸出層產生出來，如對吉娃娃和迷你杜賓犬做出區別。

　　但是，由於此過程是在神經網絡內部進行的，因此研究人員並不一定能對每個抽象特徵做出解釋，也不一定能理解網絡是如何決定提取特定特徵的集合的。

　　毫無疑問，機器學習具有在各行各業改天換日的巨大能量，它既可以拓展人類的能力，也可以在一些任務中取代人類。

　　但是，在研究人員找到讓算法變得更易理解，繼而變得更加有能力為自己負責的方法之前，我們不應該讓這種情況發生。

　　令人欣慰的是，最近的研究表明，我們並非對機器學習的黑箱特徵束手無策。實際上，已經有研究人員在着手研發能夠探查機器學習大腦內部情況的新工具了，這是一個名為人工智能神經科學的研究分支。

　　其中一種構思是：微妙地改變算法的輸入，並觀察是否有影響，以及哪些變化會影響輸出，我們就能獲得解釋。

　　例如，一種被稱為“局部可解釋模型–不可知論解釋”（Local Interpretable Model–Agnostic Explanation = LIME萊姆）的工具就能通過巧妙改變原始輸入來尋找影響人工智能判斷的關鍵因素。

　　為了瞭解影響負責電影評分的人工智能的因素，萊姆會細緻地刪除或更換在一篇影評的原始文本中導致正面評價的單詞。然後，系統會觀察電影評分可能出現的變化。

　　反覆進行這個過程，萊姆就能梳理出一些結論，比如，“漫威”這個詞幾乎總是與高評分正相關的。

　　上述路徑的另一個分支是由谷歌開發的，它以一個空白的參照項（比如純黑的圖片）作為開始，然後逐步將其轉換為輸入圖像。

　　在每一步轉化的過程中，研究人員可以觀察人工智能生成的圖像結果，並推斷哪些特徵對它的決定很重要。

　　另一種構思依賴於一種本質上扮演了機器—人類翻譯器角色的算法。具體來説，該算法可以向人類觀測者解釋特定的人工智能正在嘗試進行怎樣的活動。

　　OpenAI公司使用該策略來檢查用於防禦黑客的人工智能算法。這種方法在基礎算法之外引入了一個處理自然語言算法，它就是翻譯器。

　　翻譯器被用於對防黑客算法提問，考察後者的智慧。研究人員可以觀察問答部分，並且在翻譯器的幫助下了解在防黑客算法的決策背後所隱藏的邏輯。

　　當然，有一些人工智能的決策根本無法得到完整的解釋，這也是完全有可能的。畢竟，人類的種種決定通常都包含有直覺因素，受到本能和經驗的指引。

　　而對於研究者們來説，他們所面臨的問題是在何種程度上，能夠讓他們的發明去合理地解釋自身。

　　還有一個更為隱蔽的後果，需要我們萬分警惕：人工智能算法可能會根據種族、性別或意識形態隱約但系統性地對某些人羣給予區別對待。

　　谷歌的第一代自動相片標籤系統曾將非裔人誤認為大猩猩，激起了人們的憤怒，就是一個廣為人知的負面案例。

　　普洛帕布利卡（ProPublica）在2016年對一款用於預測罪犯重新犯罪概率的風險評估軟件——孔帕斯（COMPAS）進行了調查，結果顯示，雖然該軟件並沒有專門針對種族做出明確設計，但是它依然對黑人抱有偏見。

　　2017年的一項研究表明，**算法在單詞聯想中也會表現出偏見：**男性更可能與工作、數學和科學聯想到一起，而女性則會同家庭和藝術聯想在一起。這些偏見會對就業招聘產生直接影響。

　　例如，如果一款人工智能程序認為“男性”與“程序員”兩個詞有固有的聯繫，那麼，當它在為一個計算機編程職位檢索簡歷的時候，就很可能會將有着一個聽起來像男性的名字的簡歷排到面試表的頂部。

　　算法在單詞聯想中也會表現出偏見

　　圖源：繪本I’m glad I’m a boy! I’m glad I’m a girl!

　　**偏見也同樣為翻譯軟件帶來了麻煩。**例如，在谷歌翻譯將其他語言中的一箇中性代詞翻譯為英語的時候，如果這個代詞在語境中指的是一位醫生，它就會將這個詞翻譯為男性的“他”（he）；

　　而如果這個代詞在語境中指的是一位護士，它就會將其翻譯為女性的“她”（she）。

　　另外，語音識別軟件在處理女性聲音和方言時效果要差得多，這就使得那些使用非標準發音方式的社會重要成員受到了排斥。

　　另外一些算法可能已經以一種不易察覺的方式扭曲了人們接受醫療或保險的類型，改變了他們在刑事司法系統中的待遇，或者對哪些家庭更有可能虐待兒童做出不恰當的預測。

　　偏見和不公正侵蝕了人類與人工智能系統之間的信任，它並不能像人們一開始預測的那樣成為一個對社會貢獻巨大的均衡器——在從中立的角度做出影響生活的決定這件事上，人工智能可能並不比人類做得更好。

　　果真如此，那麼社會為什麼認為機器可以成為銀行從業者、招聘人員、警察或法官“更公正”的替代品呢？

　　……

　　2017年，由來自學界、民間組織和產業界的二十多位作者共同發表了一份報告，論述了隨着人工智能技術愈發強大和普及，它可能會以哪些方式變成邪惡的幫兇。該報告列舉了一系列可怕的例子：

　　一輛被盜用的自動駕駛汽車可能會被操縱，撞到人羣之中，或者被劫持用來運送爆炸物。感染了惡意軟件的大腦芯片或心臟起搏器可能被用於遠程暗殺，犯罪分子也可以用面部或語音模擬技術進行精準定位網絡詐騙。

　　該報告呼籲，人工智能研究人員應在其科技產品中設置安全保障，並更為公開地討論潛在的安全、安保問題。

　　令人驚訝的是，該報告甚至建議研究人員應該在他們為產品公開發布的內容中隱瞞某些想法或應用方式。

　　如今，大多數研究人員抱有一種公開透明的態度，他們會在博客文章中發佈他們的作品，並將代碼開源。

　　該領域的許多人認為，對於可能出現的有問題的人工智能應用，更好的策略是揭示它們，並在它們發生前就給出警告，防患於未然，而不是讓它們不為人知地被開發出來。

　　事實上，在谷歌為其語音模仿程序杜普雷克斯辯護時，也用了同樣的論據：通過發佈具有潛在破壞性的人工智能程序，公司就能收到公眾關於如何最好地對這種技術加以規範的反饋。

　　在某些人看來，人工智能從業者中的這種開放氛圍似乎有些天真，但它其實在一定程度上是由該領域的歷史造成的。

　　在過去，人工智能所經歷的幾度沉浮讓人們覺得人工智能的應用和改變社會的能力被高估了。

　　對人工智能發展水平持懷疑態度的人相信，有關人工智能道德或倫理的擔憂根本沒有意義，因為這種技術可能永遠不會完全成熟。

　　人工智能可能永遠不會完全成熟

　　圖源：Jason Reed/The Daily Dot

　　這些反對者的意見並非空穴來風：儘管最近在自動化領域發生了一次革新，但作為當前人工智能熱的主要推手，機器學習算法嚴重的侷限性也已經逐漸顯露了出來。

　　如果這些問題沒有得到及時解決，導致投資者的期待無法得到滿足，那麼人工智能的另一個冬天可能就離我們不遠了。