科技的誘惑：請不要不回答_風聞

    還記得，上一次目睹火箭發射時的感受嗎？在點火及之後的幾分鐘時間裏，人羣安靜極了，每個人都屏住呼吸，焦急地等待着，想看看這一次是否會成功。科技設備會像預想的那樣正常運轉嗎？但願如此。

    不幸的是，我們也看到過幾次失敗，也有幾次對失敗壓根兒不知情。總之，風險、失敗總是與科技實踐形影不離。

    信任科技的恐懼不僅僅只在萬眾矚目的大事上出現，它還和我們的家庭生活也十分密切。在每一個領退休金的季節，當長輩問我幫他們取錢的智能機器是否工作正常時，我就不由自主地覺得自己是多麼地走運。

    不過，無論你碰到的問題是大還是小，重要的是要認識到，儘管“夥伴”只是一個機器，但有關信任的根本動力仍是一樣的。依靠科技把我們送入太空，或計算花費把錢提走，這麼做實際上讓我們自己更容易受到科技能力的傷害。如果科技產品工作正常，一切都好。否則，我們會更糟。

    儘管科技現代化給人帶來了種種問題，但我提到的以上情況卻並不是新近才出現的。事實上，已經持續了幾千年之久。至少是，在9世紀的阿拉伯諸多文獻上，“科技”或“科學”是常用的詞彙。

    人類為了獲得利益如今不僅對科技十分依賴，並且還接受了科技造成的某種程度的傷害。聽説過星盤嗎？這種儀器在公元前150年就已經被用來準確計算時間、星座位置和地理位置，就像科幻小説《三體》遊戲中所描述的在秦始皇時代已有“馮·諾依曼”（計算機發明者）和“牛頓”那樣的偉大科學家。

    結果，那些願意相信星盤計算的人很快獲取了用其他方式難以得到的信息。但是，如果他們誤信了星盤，也就是説，如果他們使用的星盤有缺陷，他們的計算可能會出錯，從而導致災難性的後果。這種缺陷是所有科技，無論新科技（今天最熱門的智能聊天工具）還是舊科技都需面臨的一個基本挑戰。

    可以説明導航軟件存在嚴重問題的例子不勝枚舉。在澳大利亞，曾有人打算開車到維多利亞州西北部邊界的一座內陸農業小鎮——米爾杜拉城去，但導航軟件卻把他們指引到了40多英里以外的一個乾旱的國家公園。那裏的氣温接近46攝氏度，他們常常因為沒有汽油而被困在路上。

    現成的例子也有一個，那就是在過去的一年裏，俄國向西邊那個與其發生衝突的小夥伴的領土上傾瀉了近千枚導彈，可惜命中對方要害目標的很少，差不多的意思是，瞎了眼的俄彈疲軟無力。

    面對一次次的失敗，為什麼我們還要繼續相信科技？這個問題的答案很簡單，這與相信人是同一個道理，收益大於成本。

    科技通常會為我們提供很好的服務，技術瑕疵也會通過競爭而快速改進。如果人們發現一種產品不可靠，他們會很快轉向另外一種產品。而且，相信科技和相信別人的結果是一樣的，都會使我們取得成績，但依靠科技比僅靠自己取得的成績更大。

    印刷機的發明極大地加快了圖書的出版，這是先前所無法想象得到的。電子郵件的發展是交流的速度和數量迅猛增長，這也是前所未有的。在兩種情況下，印刷文本或電子交流肯定都會有出錯的可能，但是與不使用這兩種科技所帶來的高額成本相比，所有的顧慮似乎就顯得微不足道了。

    儘管相信科技和相信人類有很多的相似之處，但它們卻有一個基本差異。人是血肉之軀，有七情六慾。我們一直都在有意無意地比較誠信和自私給我們帶來的長短期利益。機器至少在大部分情況下是沒有慾望的——雖然不排除將來可能會有——它們不會想着如何最大化自己的利益，它們就是為完成特定的任務而生的。

    這個基本事實意味着，從信任等式中去掉善變的誠信；相信不善交際的機器最重要的是機器的能力，因此，相信科技變得日趨引人注目。

    隨着科技在我們生活中的普及和應用的推廣，我們的大腦至少在潛意識上似乎越來越願意把科技的複雜性標誌看成科技能力的暗示。給信息披上一件技術含量更高的“外衣”，人們突然會更有可能相信這樣的信息。這種現象被稱為“核磁共振效應”。

    但是，請不要被上述看法迷惑。如果科技是能力的一個潛在暗示，那麼我們在日常事務中需要做決定時，對人力助手和自動化工具兩種信息渠道有無信任的偏重呢？事實是不會出現偏倚。然而，隨着風險的提升，我們的決定就會與自動化工具提供的信息越來越吻合，而不是與人力助手的。不久前，我們在疫情防控決策方面所經歷過的大概就類似如此。

   啓示很明顯，當受侵害的風險趨高時，人們會不經意地利用科技所提供的能力暗示來做決定，他們對科技能力如此信任，竟然忽略了看似很能幹的人力助手所提供的研判信息。

    這難道是昭示着，在信任科技方面，我們更加聽信“機器專家”或者是容易上當受騙到了無藥可救的地步了嗎？並不見得。還是那個結論，我們相信科技的目的與相信別人的目的，兩者沒有太大的差異。

   正是因為沒有很好的藉口懷疑科技，潛意識偏見才會認為其能力更勝一籌，所以潛意識偏見在此起到了決定性的作用。

    但是，當我們對任何科技的可信度確實產生了懷疑，我們有理由保持謹慎時，情況可能很快就會變得更為複雜。當今世界，科技風險不僅僅是科技本身的能力問題造成的，更多的是科技使用者的目的，或者甚至是科技本身的目的所造成的。我們的社會正在快速進入這樣的新世界。

    一個日益突出的新世界現象是，在線電子遊戲變得日趨高級。於是，虛擬世界對我們的感官誘惑越來越多，我們在虛擬世界花費的時間越來越多。隨着這種交流的深入，對潛意識來説，現實世界與虛擬世界之間的界限會越來越模糊。

    請不要忘了，我們的大腦並沒有在“虛假”世界環境中進化發展，因此當虛擬世界在視覺上變得更為賞心悦目時，就難以抵制虛擬世界的影響。正如在“三體遊戲”中所看到的那樣，如果化身被設計成支配型，從使用支配型的化身中獲取的強大的權力感會滲透到對他（或她）自己本人的看法當中，並相應地改變他的可信度。

    所以，儘管沒有人明確承認我們受到了自己所使用的化身的影響，因為那個化身的特點常常會與我們自己的相差甚遠，但那個化身的特點卻能極大地改變我們的直覺計算，實際上最終讓我們反過來變成虛擬角色的化身。有時我們甚至還會做出與它一樣的動作。

    看透虛擬主體和化身的心思有好處，但要付出代價。數字化主體和化身的精準度會帶來很多操縱信任的機會。有關虛擬主體的研究結果顯示，人類會對科技實體的非語言暗示作出反應。人類經常會不經意間用非語言形式發出信號，表露出自己的真實意圖。但虛擬主體與化身不同，它們只會發出使用者或程序編制讓他們發出的信號。與諸多人工智能Chat機器人一樣，它們能表達一組組暗示，發出可信或不可信的信號。它們還與虛擬護士一樣，在感受不到任何真實情感的情況下，看上去可以讓人感覺既熱情又有同情心。

    因此，我們應能認清，數字實體可能是完美的騙子。它們可以流利地與我們的直覺信任機制進行交談，從而影響我們的決定。

    克服這種影響其實不難。我不建議作出諸如“請不要回答”的迴避舉措，而是來吧，你可以忽略或有意反抗虛擬主體或化身表現出來的非語言暗示。例如，你可以把歡迎的手勢，與你相同的口音，或者伸展姿勢，看成是操縱你的信任的信號。

    不過，操縱並非總是壞事。有時，操縱會增進你對給你提供幫助的數字實體的信任，操作也能轉化為一種享受。一切都取決於具體實體設計師的目的。隨着人與虛擬主體和化身的交流越來越普遍，如果你盲目地認為設計師是出於惡意，你就無法從中受益。（完）