誰?他在30年前預言了互聯網的黑暗面然後神秘消失!曾説在麻省理工學不到知識_風聞
大眼联盟-2021-08-22 02:17

Reed Albergotti在華盛頓郵報發表文章,菲利普·阿格爾曾是一名計算機科學家,後來卻成為了人文學科教授,他早在30年就尖鋭而準確地提出了大數據收集對社會造成的傷害以及人工智能的弊端,然而,當時的人聽不懂他在説什麼。多年之後,人們才發現這位學者的觀點是多麼地準確且有預見性,人們希望聽到這位學者更多的觀點時,卻發現這位學者已經神秘地從公眾視野中消失了。
當時大多數美國人還沒有電子郵件地址或互聯網接入,甚至沒有個人電腦,當時菲利普·阿格爾(Philip Agre)就預見到,計算機有一天會促進社會上所有數據的大規模收集。
當時在加州大學洛杉磯分校擔任人文教授的阿格爾寫道,這個過程將改變並簡化人類的行為。由於這些數據不是由一個強大的“老大哥”政府收集,而是由許多實體出於不同的目的收集,他預測人們會心甘情願地交出非常隱私的、關於個人好惡的大量信息。
擁有麻省理工學院計算機科學博士學位的阿格爾在一篇學術論文中寫道:“因為缺乏奧威爾筆下那種反烏托邦式的公開恐怖,令人擔憂的發展可能並‘不那麼糟糕’。”
注:英國作家喬治·奧威爾創作過一部反烏托邦小説《一九八四》。它重點探討當政府權力過分伸張時,對社會所有人和行為實施壓抑性統治的風險。阿格爾認為由於數據的收集並非由政府而是由企業主導,因此惡劣程度有所降低。
將近30年後,阿格爾的論文似乎有着驚人的先見之明,他對未來的設想已經以數據產業的形式出現,它不分國界,也幾乎沒有法律約束。不同的廣告網絡和移動應用程序,為各種目的收集來的數據被用於影響選舉,在至少一個案例中,被用來揭露同性戀神職人員。
但阿格爾並沒有止步於此,他還預見到了面部識別技術的濫用,他預言我們沒有能力抵制精心製作的虛假信息,他還預言如果不進行道德和哲學調查,人工智能將被用於黑暗用途。
當時,沒有人理會他的話。現在,阿格爾的許多前同事和朋友説,他們近年來更多的是在思考他的話語,並重新閲讀他的作品,因為互聯網爆炸性和不受控制的增長所帶來的隱患已經顯現出來,並逐步侵蝕了民主,並幫助促成了1月份對美國國會大廈的暴力襲擊。
馬克·羅滕伯格在1998年與阿格爾一起編輯了一本關於技術和隱私的書,他現在是人工智能和數字政策中心(Center for AI and Digital Policy,一個旨在確保人工智能和數字政策能夠促進更加公正社會的政府組織)的創始人和執行主任,他説:“我們正在承受忽視阿格爾這樣的人的話所帶來的後果。”
夏洛特·李在加州大學洛杉磯分校攻讀研究生時師從阿格爾,現在是華盛頓大學以人為本的設計和工程學教授,她説她今天仍在研究他的成果並從中學習。她説,她希望阿格爾能在身邊,這樣就能幫助她更好地理解他的觀點。
然而,阿格爾不在,2009年,他乾脆從地球上消失了,他放棄了加州大學洛杉磯分校的職位。當朋友們報告阿格爾失蹤時,警方找到了他,並確認他沒事,但阿格爾再也沒有回到公眾辯論中。他最親密的朋友以尊重阿格爾的隱私為由,拒絕進一步討論他失蹤的細節。
阿格爾在學術研究和寫作中探討的許多觀點和結論,直到最近才在專注於追究技術公司責任的智囊團和非營利組織中出現。
加州大學洛杉磯分校信息研究教授克里斯汀·博格曼曾幫助招募阿格爾在學校擔任教授,她説:“我看到菲爾在90年代寫的東西,在今天被説成是新的想法。”
華盛頓郵報向阿格爾最後一個已知的電子郵件地址發送了一條信息,它被退回了,郵報試圖聯繫他的妹妹和其他家庭成員的努力也沒有任何效果。十幾位前同事和朋友都不知道阿格爾今天住在哪裏。
一些人説,幾年前,他還住在洛杉磯附近的某個地方。

阿格爾是個數學神童,他曾是一個受歡迎的博主和《連線》雜誌的撰稿人。現在,他在主流技術圈子裏幾乎被遺忘,但他的論文仍然經常被學術界的技術研究人員引用,並被認為是社會信息學領域、或研究計算機對社會影響的基礎性讀物。
阿格爾於1989年在麻省理工學院獲得博士學位,同年萬維網被髮明。當時,即使是在押注計算機崛起的硅谷風險資本家,也很少有人預見到一切事物的計算機化會多麼深入和迅速地改變生活、經濟甚至政治。
包括阿格爾在內的一小羣學者觀察到,計算機科學家很大程度上是在真空中進行他們的工作,與周圍的世界完全脱節。同時,這個世界之外的人對技術或技術如何改變他們的生活缺乏足夠深入的瞭解。
到20世紀90年代初,阿格爾認為人工智能領域已經誤入歧途,而缺乏對這個行業的批評是主要原因之一。在人工智能的早期,大多數從事人工智能的人都專注於複雜的數學問題,旨在使人類任務自動化,但成功率有限。然而,該行業將他們編寫的代碼描述為“智能”,賦予它實際上並不存在的人類屬性。
加州大學歐文分校信息學榮譽教授傑弗裏·鮑克在1997年發表的名為《試圖改革人工智能的教訓》的里程碑式的論文,在很大程度上被視為經典。鮑克表示,阿格爾注意到,那些建立人工智能的人忽視了外界對這項技術的批評,但阿格爾認為,批評應該是構建人工智能的一部分。
鮑克説:“這個論點相當精彩,對於人工智能這個領域,我們花了很多年才理解,一隻腳踩在設計的工藝上,另一隻腳應該踩在批判上。”
儘管如此,人工智能已經不受約束地向前推進,甚至將自己編織到“低技術”行業中,並影響到大多數使用互聯網的人的生活。它指導人們在YouTube和Facebook上看什麼和讀什麼,它決定被定罪的罪犯的刑期,幫助公司實現自動化並減少工作崗位,允許獨裁政權以更高的效率監控公民,並阻撓民主的嘗試。
今天的人工智能,已經在很大程度上放棄了阿格爾和其他人在80年代和90年代所做的那種工作,它專注於攝取大量數據,並用世界上最強大的計算機進行分析。但隨着新形式的人工智能的發展,它也產生了一些問題,從歧視到過濾氣泡再到虛假信息的傳播,一些學者認為,部分原因是它缺乏阿格爾30年前所指出的那種自我批評。
注:過濾氣泡,filter bubble,是一種網站針對個人化搜尋而提供篩選後內容的結果,這種結果可能會導致使用者越來越看不到他們不同意的觀點或資訊,這使得人們的認知過於單向,並只能處於他們的文化、意識形態氣泡之中。
12月,谷歌解僱了人工智能研究科學家提姆尼特·格布魯,因為她寫了一篇關於谷歌人工智能工作所面臨的道德問題的論文,這凸顯了人工智能道德的持續緊張以及這個行業對批評的厭惡。
蒙特利爾魁北克大學計算媒體教授索菲安·奧德利曾經是一名人工智能研究人員,他説:“這是一個如此同質化的領域,這個領域的人沒有看到,也許他們正在做的事情可能會受到批評,阿格爾説的是,開發這些技術的人需要而且有必要接受批評。”
阿格爾在馬里蘭州長大,他説他在那裏被當地的一位心理學家“塑造成了一個數學神童”。他在1997年的論文中説,學校整合導致了對天才學生的搜尋。據一位朋友説,阿格爾後來對他的父母提前送他上大學感到憤怒,他與父母的關係也因此受到影響,這位朋友是在匿名的條件下説的,因為阿格爾沒有允許他談論他的個人生活。
阿格爾寫道,當他進入大學時,除了數學之外,學校對他沒有學習其他知識的要求,他在研究生院休學一年,去旅行和閲讀,他寫道:“到了麻省理工學院的研究生院,除了數學和計算機之外,幾乎沒有學到真正的知識,所以我以一種不加區分的方式,依靠自己的資源,試圖成為一個受過教育的人。”
從某種意義上説,阿格爾開始反叛他的職業,他開始尋找人工智能的批評者,研究哲學和其他學術學科。他寫道,起初他發現這些文本“難以理解”,因為他已經訓練了自己的思維,將他讀到的所有東西都像數學或計算機科學的技術論文那樣進行剖析。
他寫道:“終於明白,不要再把這些奇怪的學科語言翻譯成技術模式,而是要根據它們自己的條件來學習它們。”
阿格爾對其他領域的知識興趣使他離開了計算機科學,並將他變成了當時的另類。一個出色的數學家,對人工智能最先進的理論有着深刻的理解,同時也能跳出這個領域,從一個局外人的角度來批判性地看待它。
由於這個原因,阿格爾成為了一個受歡迎的學者。幾位前同事表示阿格爾對整個學術和流行領域的書籍都很渴求,他的辦公室或圖書館裏堆滿了書籍。他因其廣泛的好奇心所激發的原創性思維而聞名。
加州大學洛杉磯分校信息研究教授博格曼説:“他是一個非常有啓發性的思考者,一個你一有機會就會想和他一起吃飯的人。”
阿格爾將他對人文和技術的理解結合起來,剖析技術在發展過程中對社會的影響。今天,他的許多分析讀起來就像是成真的預言。
在雅虎、亞馬遜和eBay上市前一年發表的一篇1994年的論文中,阿格爾預見到計算機可以促進對社會上所有數據的大規模收集,人們會忽略隱私問題,這種收集不是“老大哥”(即政府)主導並用來監視公民的,而是許多不同的實體出於許多目進行的收集,這有好的一面,但也會帶來一些問題。
但更深刻的是,阿格爾在論文中寫道,數據的大規模收集將改變和簡化人類行為,使人們的行為更容易被量化。這種情況已經發生了,規模之大很少有人能夠想象,因為社交媒體和其他在線網絡已經將人類的互動歸納為容易量化的指標,例如是否為朋友,是否喜歡,是否是追隨者或被追隨者。而這些互動產生的數據已經被用來進一步塑造行為,通過有針對性的信息,旨在操縱人們的心理。
2001年的時候,阿格爾寫道:“你的臉不是一個條形碼”,他反對在公共場所使用面部識別。他在文章中預測,如果這項技術在西方繼續發展,它最終會被其他地方採用。
20年後,美國正在就執法部門和移民官員使用面部識別技術進行辯論,一些州已經開始禁止在公共場所使用這種技術,儘管有抗議聲,但要遏制該技術的擴散可能為時已晚。
阿格爾通過一個名為“紅巖食客新聞服務”(Red Rock Eater News Service)的互聯網郵件列表將他的觀點帶給大眾,這個郵件列表以貝內特·瑟夫的“謎語書”(Bennett Cerf’s book of riddles)中的一個笑話命名,它被認為是博客的一個早期例子。
阿格爾有時也對他成就的侷限性深感沮喪,他的觀點是如此的超前,直到25年後才被人注意到。鮑克説:“他覺得人們不明白他在説什麼,他為懵懂迷惑的聽眾答疑解惑,而這些迷惑的聽眾卻無法理解他所説的內容。”
博格曼説:“他當然對沒有更多的人接受感到沮喪,但他領先於自己一代的人,別人無法接受是不可避免的事情。“
阿格爾的最後一個項目是被朋友和同事俗稱為“互聯網聖經”,這是一本從頭到尾剖析互聯網基礎的權威書籍,但他從未完成這本書。
據一位前同事説,剛開始的時候,阿格爾時不時地出現,但後來,好多年都再也沒有見過他。
加利福尼亞大學歐文分校的美術教授西蒙·彭尼曾廣泛地研究過阿格爾的論文,他問道:“為什麼某些類型的有洞察力的學者,甚至對某些領域有如此深刻理解的人,基本上會都會揮舞着手臂,然後説‘我不幹了’?從心理學上講,人們需要一個喘息的時間來問自己一個大問題:誰要繼續下去,為什麼要繼續下去?是否要繼續從事這種戰鬥,終點在哪裏?我是不是走到頭了?也許他們會回答自己:這與我無關了,我走錯路了。”
幾年前,加州大學洛杉磯分校的前同事想把他的作品收集起來,但阿格爾再次出現,叫他們停止收集。
阿格爾一生的工作沒有完成,他提出了問題,但沒有給出答案。印第安納大學信息學系博士後約翰·塞伯格對阿格爾的工作進行了全面的研究,他説這未必是一件壞事。
塞伯格説,阿格爾的工作提供了一種思考日益數字化的社會所面臨的問題的方式。但是今天,在阿格爾失蹤十多年後,人們對這些問題有了更清楚的認識,也有更多人在研究它們。
他説:“尤其是現在,當我們正在面對深刻的社會動盪時,讓更多不同的學者羣體參與回答這些他沒有回答的問題會讓我們更受益。”
華盛頓郵報