邱澤奇 | “碼”時代到來,“智慧生活”的代價是什麼?_風聞
探索与争鸣-《探索与争鸣》杂志官方账号-2020-09-06 22:55
編者按:在抗擊疫情的過程中,健康碼等科技手段發揮了重要重要作用,為公眾的日常生活和出行帶來了便利。但健康碼等技術手段一直面臨侵犯個人隱私的質疑。近日,蘇州再次推出“文明碼”,目的在形成市民文明程度“個性畫像”,這一舉措再度引發輿論熱議。隨着“碼時代”的全面到來,公眾的生活的便捷度雖然得到提高,但是技術對公眾日常行為的事無鉅細的介入,會不會造成“管理過度”?從智能手機到健康碼、文明碼,我們為追求生活便利又需要承擔什麼樣的代價?這都是目前需要關注的問題,本文原載《探索與爭鳴》2018年第5期,本公眾號特此編髮,供讀者思考。
智慧生活的個體代價
在日常生活的發展中,人類越來越依賴工具。由廣義工具支持的智慧生活已經成為了一股歷史潮流。在依賴工具的發展中,人類越來越多地把規律性事件交給機器處理。最古老的,如計算,曾經,我們需要動用紙筆,即使用算盤,使用的還是人類智慧。現在我們完全交給了機器如計算器或計算機。最直觀的,如信用卡還賬,我們設置一個關聯賬户和還賬規則,一旦滿足規則,一個賬户的錢就自動地轉到了另一個賬户。進一步發展是,拿着智能手機掃一掃二維碼,關聯賬務便發生了實質性變化。在更激進的工具依賴中,日常生活的幾乎每一個環節都充滿了“機器智慧”,從家用電器、生活起居,甚至健康管理,都在讓機器智慧代替人類智慧,人類對工具的依賴正在走向對智慧化的依賴。
智慧生活的初始動力是人類對便捷性的期待,這是人類本性的一部分。然而,對便捷性的獲得是有條件的。在互聯網轉賬的例子中,譬如,兩個行動者(如個體)之間通過二維碼轉賬,獲得便捷性的一個前提是,把個體變成用户網絡的一個“節點”;在此基礎上,實現快捷轉賬的又一前提是,兩個個體之間的“二維碼”之間可以相互識別,不僅機器能讀懂二維碼,二維碼關聯利益的賬户相互之間也能交易。這樣,在個體、金融機構、金融監管機構等行動者之間便構成了一個網絡,個體是網絡中的一個節點。
對一個個活生生的人類行動者而言,成為節點的代價是讓渡自己的“識別性”。識別性不一定意味着交易的對方認識你,而是代辦你賬户活動的體系識別你。同理,也識別與你交易的對方。金融機構知道你是誰,金融監管機構也知道你是誰。可要知道你是誰,不僅要在生物特徵上識別你,在社會特徵上也要識別你。要獲得識別性,你就不得不把自己的姓名、年齡、出生地、職業、受教育程度、家庭關係,甚至指紋、虹膜等一系列特徵信息,提供給如信用卡、微信、支付寶等金融機構和金融監管機構。與你交易的,和你一樣,對方也要提交相同的特徵信息,不然便沒有與你進行交易的資格。
簡單地説,如果把便捷性理解為網絡節點之間的互動更多地由行動者如個體委託機器自動實現,那麼,前提便是在機器與行動者如個體之間建立可信和可靠的關聯。而要實現可信和可靠的關聯,人類行動者就不得不讓渡自己的識別性。
滿足識別性的特徵信息在不同場景下是不同的。在一個偏遠的山村裏,相互之間無需使用身份證。個體的識別性從出生的那一刻起便在逐步建構中了,待到需要識別時,眾多的個體識別性早已成為了公共信息,如姓名、年齡、性別、社會關係等。可在高度互聯的人類網絡如10億微信用户中,沒有人有機會像你的鄰居那樣看着你成長。理論上,節點之間相互陌生的概率遠遠大於熟悉的概率。在互聯網社會化應用的初期曾流行過一段話,“在互聯網上,沒有人知道你是一個人還是一條狗”。陌生人的普遍性曾經讓人們以為互聯網是一個去中心化的、只需要賬户識別性的網絡,這也是人們把網絡社會稱之為“虛擬社會”的基本依據。現實是,沒有人希望自己賬户裏的財富去向不明。每一個“節點”都有同樣的需求。為了滿足這一需求,網絡需要識別每一個參與互動的真實人類,用户也就不得不讓渡自己的識別性,且不得不更多地讓渡自己的識別性,從早期的姓名、年齡、職業,到現在的指紋、頭像。邏輯上,對識別性的要求越嚴格,用户需要讓渡的識別信息就越多。識別性讓渡的後果之一便是,“在網絡上,沒有人不知道你是一個人還是一條狗”。“虛擬社會”與實體社會之間的界限正在消失。有一本書,洛麗·安德魯斯寫的,《我知道你是誰,我知道你做過什麼——隱私在社交網絡時代的死亡》,講述的正是這個故事。
顯然,如果人們希望獲得智慧生活,作為代價,就不得不讓渡自己的識別性或可識別信息。
社會潮流中的個體困境
在經歷了若干年的發展之後,加入智慧生活的人們越來越多地瞭解到:原來,機器智慧的組織和人類社會一樣,也具有“科層”特徵。在“If, then, else(如果,則,否則)”的計算邏輯下,機器智慧甚至是一個完美的科層體系。在與用户的互動中,機器也對人類提出瞭如等級和權限等科層體系要求。以安卓手機為例,機器對權限的要求以“告知”的形態出現。用户在安裝軟硬件時,都會讀到對識別信息獲取和管理權限的告知,要求用户同意。只有獲得用户同意,軟硬件才有權獲取用户的識別性。
問題是,單從技術上看,作為用户,您瞭解“告知”信息的真實含義嗎?
在人類互動的發展中,告知與識別有着幾乎同樣悠久的歷史,也經歷了場景的變換。如今,人們在日常生活中最直觀的體驗是,在辦理手機卡、銀行卡時,店家都會給用户幾頁密密麻麻的合同。如果同意,還需要在指定的位置簽字,表示已經完整閲讀、理解合同條款的含義,且自覺自願地同意。問題是,人們真的認真讀過每一條款嗎?真的理解每一條款涉及的業務、技術、法律責任和義務嗎?事實是,絕大多數人對此都是一知半解。
具有諷刺意味的是,同樣是為了便捷性,在絕大多數情況下,用户甚至不看一眼告知,便籤下了自己的姓名。人們可能想象着:我不是辦理此類手續的第一人,也不可能是最後一人,既然其他人沒有提出異議,那就應該沒有問題,也無需“浪費時間”。
遺憾的是,在專業化分工的發展中,告知已經成為一個技術門檻越來越高的領域,以至於逐步成為一種“智力暴力”。從華爾街的金融產品告知,到人們身邊各式各樣的“知情同意”,智慧生活發展的幾乎每一步都有“告知”,都需要你的“同意”。而幾乎每一個“告知”都有大量人們陌生的術語、技術、責任和義務。在每一個陌生的術語、技術、責任和義務背後,不僅有人們期待的便捷性,更有人們無法預知的風險。
不僅如此,不同用户對告知涉及專業知識的敏感性還有極大差異。當智慧生活把告知擺放到用户面前時,看起來給了每一位用户同等的“知情同意”權利,也給予了用户控制自己識別性的機會。事實則是放大了用户對“告知”內容真正知曉的差異性,被告知的用户越多,用户羣體的極值差異就會越大,由技術能力差異產生的對告知同意的強制性也越強。
問題在於,在專業化分工日益細密的趨勢下,誰可以自詡技術能力足夠呢?既如此,則意味着在大多數情況下,人們的技術能力都有不足,也意味着在智慧生活環境下,用户無力保護自己識別性的自主性。何況還有更糟糕的,那就是如果用户對告知表示“不同意”,就不可以繼續使用。
如果説智慧生活正在變成人類社會的滾滾潮流,作為用户,則不斷在面臨一個兩難選擇:要麼糊里糊塗地讓渡自己的識別性,承擔由此可能帶來的風險;要麼與智慧生活絕緣。
技術治理的社會選擇
既然不得不讓渡自己的識別性,卻又不知道讓渡可能帶來的風險,是不是意味着用户只能做待宰的羔羊呢?當然不是。
在“識別性”面前,個體的困境並不是在人類進入到高度互聯的網絡時代才出現的,而是在人們走出村莊之時,就已經面對了。在個體成為互聯網絡節點之前,早已是局部社會網絡的節點。個體接觸陌生社會的範圍越大,對個體的識別也變得越困難和越複雜。識別性,無論對個體還是社會來説,也變得越重要。
人類實踐的共識是,建構公共制度來解決識別性困境。典型的制度設置如出生、户籍、教育、職稱、職位、身份、社會關係等。為保證制度建設與執行的公平性、安全性和可靠性,人類將其委託給了政府。
當然,政府不是建構識別性的唯一選擇,普遍存在的另一個選擇是市場。人們辦信用卡、開銀行賬户、加入商業俱樂部等,都要讓渡自己的識別性。在傳統市場中,識別性基本只關涉經濟利益。儘管如此,由於市場是以經濟收益最大化為目標的社會機制,為防止市場濫用識別性,在市場之外人類還建立了公共制度,委託公共權力作為監管方,既為市場背書,也代表社會對市場進行管束。事實上,市場的趨利特徵讓其始終面對着公共權力的約束。在大多數情況下,公共權力的代表就是政府。
仍以“告知”為例,早期的智能手機並沒有向用户告知其對用户識別信息的獲取,告知的出現正是公共制度監管的結果,它意味着希望建構識別性的行動者遵循着社會規則。在個體識別性讓渡中,告知的出現是一個積極的發展,是對用户主導自己識別性的確認。
複雜的是,互聯網技術應用的發展讓市場在技術上有能力超出傳統範圍,脱離公共制度的監管,直接索取曾經由政府背書的識別信息,甚至也不告知對識別信息的運用。例如,當人們拿着智能手機用指紋解鎖、用人臉解鎖的時候,也把自己的指紋和人臉等識別信息提供給了網絡,成為可以從網絡獲取的識別性信息,進而成為市場的“數據資源”來源。
如果對識別性數據資源的利用像傳統市場一樣僅僅關涉經濟利益倒也罷了,不斷披露的事實表明,它還關涉政治權力和社會秩序。市場,在技術上能力上早已超越政府,具備了整合識別性數據資源,操縱社會秩序的能力。
或許無需如此悲觀。縱觀人類的技術史(有興趣者可以參閲查爾斯·辛格等主編的七卷本《技術史》)可以發現,市場野性的影響其實是由技術創造與應用的人類組織方式決定的,互聯網技術帶出的市場野性並沒有超出技術內涵着的社會力量。現象是,市場在技術上有能力整合識別性數據資源和操縱人類的行為、進而操縱社會和經濟秩序。實質是,運用資源的方式和範圍,依然可以由社會制度約束。技術與社會之間的互動史表明,對一個合作有序的社會而言,技術從來都只是工具,對工具運用的規制才是決定技術影響社會秩序的關鍵因素。
簡單地説,約束市場野性的源頭在於社會對技術的治理。人類對技術的治理經歷了一個漫長的過程,卻只有兩個重要轉折點:**金屬是人類工具創造與使用的第一個轉折點,稀缺性使其從一開始便是公共制度約束的對象。**例如,在中國歷史上,對鐵的使用盡管曾經產生過激烈的爭論,最終還是成為了國家管束的對象。**第二個轉折點是對非自然力的創造與使用。**在中國歷史上,涉及對非自然力的創造與使用始終是國家管束的對象,如火藥。在工商為末的社會規則下,其始終是服務於民生的工具。而在西方,利用貴族們關注田產的間隙,蒸汽動力的創造與使用從一開始便成了資本的獵物,資產階級也因其對市場力量的掌控而站上了人類歷史的舞台。兩個轉折點分別構造了兩種截然不同的工具運用方式、社會對技術治理的路徑,也形成兩種完全不同的社會秩序。
人類對便捷性的追逐產生了識別性讓渡,越來越多的識別性讓渡提供了豐富的數據資源,技術的發展為對識別性數據資源的運用提供了能力。其實,豐富的數據資源既是市場野性的資源,也是社會治理的資源;不斷發展的技術既為對識別性數據濫用提供了能力,也為對技術進行治理提供了能力。
如果説人類曾經用智慧在工具為大眾服務和為資本服務之間達成過平衡,現在則出現了再平衡的訴求。對識別性數據資源的技術治理,既有的人類實踐雖然給我們提供了借鑑,歐洲、美國、中國有着不同的實踐,卻遠沒有達到“平衡”的狀態,依然還在摸索之中。如果説國家權力(曾經)是武裝暴力的後果,藉由制度來維繫,那麼,技術創造與應用從來也是一種權力,在不同階段有着不同的表現形態,當下的表現形態便是數據權力。不受約束的數據權力就是數據暴力。把數據暴力關進制度的籠子,才是讓數據資源既服務於市場,也服務於社會的可持續方式。此時,社會選擇的作為呼之欲出。否則,在智慧生活中要證明“你媽是你媽”便不會少見。
用大眾意志形成的制度始終是約束暴力最有效的方式,也是技術治理的社會選擇。在中國的實踐中,我們觀察到了針對支付寶、今日頭條、百度搜索等的大眾輿論,注意到了類似微信不設置“已讀”功能中體現的是對社會規則的自覺遵循;也觀察到了用國家權力約束市場野性的網聯;同時,我們還看到越來越多的用户開始意識到自己識別性信息的權利意涵。事實上,在與識別性關聯的智慧生活發展中,關涉的各方都在探索自己行為的邊界、符合社會規則的互動模式。政府、市場、社會都在考量對識別性信息讓渡與利用之間的“度”,或許讓這個“度”達成平衡還有一個過程,值得欣慰的是中國社會的實踐已經在朝着建構一個合作秩序的方向發展,當新的秩序形成之時,我們又會有新的社會規則。