演講局成員、新鋭歷史學家尤瓦爾·赫拉利:大數據會破壞自由民主嗎?_風聞
演讲局-顶级嘉宾阵容,为您邀请政要、诺奖得主、商界领袖2018-11-19 11:42
作者:尤瓦爾·赫拉利
(Yuval Noah Harari)
全球矚目的新鋭歷史學家
《人類簡史》《未來簡史》《今日簡史》作者
我們不得不承認,大數據和人工智能是具有革命性的。我的意思是,他們會改變一切。因此,30年後,人工智能和生物傳感器等技術甚至可能為社會上最貧窮的人提供比當今最富有的人更好的醫療保障。
但從更宏觀的角度來看,人工智能和大數據對政治權力的影響可能會產生意想不到的危險後果。越來越多的政府得出這樣的結論:就像19世紀的工業革命一樣,現在能在人工智能領域引領世界的人將主宰整個世界。
如果你看看共產主義和自由主義之間的衝突,你會説這是兩種不同的數據處理和決策系統之間的衝突。自由主義本質上是一個分佈式系統。它分發信息和權力,以便在許多個人和組織之間作出決定。相比之下,共產主義把所有的信息和權力集中在一個地方,就像蘇聯時期的莫斯科那樣。
現在,考慮到20世紀的技術,它的效率着實很低,因為沒有人有能力足夠快地處理所有的信息並都能做出正確的決定——我的意思是,蘇聯種植多少捲心菜?要生產多少輛車?每輛車要多少錢?有成千上萬這種問題,我們單純依靠着紙、筆、打字機之類的東西沒法很有效率的處理它們。
20世紀的西方,民主和資本主義戰勝了法西斯主義,因為民主在處理數據和作出決策方面更好。但這不是自然規律,集中式數據處理總是比分佈式數據處理效率低。隨着人工智能和機器學習的興起,在一個地方處理大量的信息可能變為可行,然後集中的數據處理將比分佈式數據處理更有效。
現在自由民主面臨的最大危機是信息技術的革命將使獨裁比民主更有效率,然後獨裁政權在20世紀的主要缺陷——試圖將所有信息集中在一個地方,現在這將成為他們最大的優勢。也就是説,隨着機器處理越來越多數據的能力的提高,對自由民主的威脅也在增加。
所以在20世紀,西方自由民主的支持者們有一段相對輕鬆的時光,因為你不必在道德和效率之間做出選擇。最道德的做法往往也是最有效的做法。把權力交給人民,把自由交給個人——所有這些在道德和經濟層面上都是OK的。
世界上大多數政府都在過去幾十年裏實現了社會的開放和自由,他們認為,如果我們想要一個像美國或德國那樣繁榮的經濟,我們就需要這麼做,即使我們不喜歡。但是,如果突然之間,情況不再是這樣了呢?從道德角度出發,這仍然是最好的做法——保護個人隱私和權利,但這不再是最有效的做法。
最有效的做法可能是建立這些巨大的數據庫,完全無視個人的隱私和權利。允許算法代表人類做出決定是最有效的。算法將決定我們將錄取哪些人進入哪些大學,算法會告訴你該學習什麼,該住在哪裏,甚至是嫁給誰。如果這更有效,那麼自由、人權和個人主義的理想會怎樣呢?
威脅民主未來的另一項技術威脅是信息技術與生物技術的結合,這可能導致產生比我更瞭解我自己的算法。一旦你有了這樣的算法,一個外部系統,比如政府,不僅能預測我的決定,它還能控制我的感覺,我的情緒。一個統治者可能無法為我提供良好的醫療保障,但他可以讓我愛上他,讓我憎恨反對派。
自由民主的敵人,他們有辦法侵入我們的情感當中,而不是我們的電子郵件,也不是我們的銀行賬户——它們侵入我們的恐懼、仇恨和虛榮的情感,然後利用這些情感從內部極化和摧毀民主,因為説到底民主不是基於人類理性而是基於人類的情感。比如在選舉和公投期間,你很少會被問到:你怎麼看;他們會問你:感覺如何?所以如果有人能有效操縱你的情緒,民主就會變成一場情緒化的木偶劇。能夠控制數據的人也就能控制人民大眾。
現在,我們還需要記住的是,從技術上來説,破解人類和人類情感是可能的。但為了破解他們,你需要大量的生物知識和計算能力。直到今天,還沒有人能做到。
因此,人們相信人類是不可被破解的,他們會説:人類的情感反映了自由意志,沒有人能夠理解我,操縱我。是的,這在整個之前的歷史中都是正確的,但現在已經不一定了。一旦你有了一個能破譯人類的操作系統,它就能預測人類的決定,也能控制人類的慾望和情感。
直到今天,沒有一個政治家真正有能力做到去理解人類的情感系統。只是通過反覆驗證和試錯,他們發現了相對有效的方法,並且這一直都在改變。但如果我們能夠準確地破譯人類的生物化學系統並向你推銷任何東西,無論是產品還是政客,那麼我們就有了一種全新的政治。
那些幫助創造了這項技術的人,那些有這種烏托邦想法的人,他們認為數據和數據的處理方式能夠以積極的方式改變世界,但同樣的,你不得不懷疑他們是否停下來思考了是否會產生意想不到的後果。
當人們在開發像這種技術時,絕大多數情況下,顯然會更多的關注積極的影響。直到今天,人類還在設法避免最壞的後果,最明顯的例子就是核技術。20世紀50年代和60年代所有關於核戰爭的末日預言都沒有發生——核戰爭將摧毀人類文明。人類成功地迎接了核技術的挑戰。那麼今天的人工智能和生物技術呢?這是個懸而未決的問題。
我不認為任何人能預言未來。實際上,這是毫無意義的。我把自己定義為歷史學家。我要做的是映射不同的可能性。從這裏開始,可走的路不止一條。我認為現在討論這些還為時不晚。我們仍然可以影響這項技術的發展方向,我認為總是存在不同的可能性。
(注:本文所有觀點僅代表作者個人,不代表演講局立場)
預約尤瓦爾·赫拉利演講及出席活動
請聯絡演講局