朱雲漢：一位政治學者對AI人工智慧革命的一些思考
【本文為台灣大學政治系教授、台灣“中央研究院”院士朱雲漢，在台灣“中技社基金會”今年2月會議上的演講。小標題為編者所加。】
主持人、陳校長、各位嘉賓各位先進，今天我站在這個台上，事實上是完全被逼上梁山，陳院士非常懇切地要我來做這樣一個演講，我只能説他大概覺得我春節沒有更好的事情可以做，就丟一個很大的家庭作業給我。
當然，我過去也思考過AI相關的問題，不過從來沒有準備要做這樣一個比較系統性的論述，我可能也要感謝他逼着我有機會去整理一下這方面的文獻，以及自己過去在這個問題上的一些思考。可能還不成熟，我今天也很高興有機會來就教於各位。
今天的演講，因為只有40分鐘，我會盡量精簡一點，前面會講一些關於AI以及跟AI非常密切相關領域的科技的、未來的、巨大的、潛在的爆發力。先談一些它已經在政治領域裏面產生的、我們看得到的影響，這是一個具體的線索，一方面是對於民主政治運作的影響，而更廣義來講，對國家職能、政府機器，它的運作，整個影響絕不下於它對所謂商業模式或是企業組織的影響，應該説有一些地方是非常雷同的。
作者供圖，下同
AI革命包括哪些方面？
但是我認為AI科技創新，帶來了巨大的難題。我把它稱為革命，因為我覺得它帶來一種前所未有的顛覆性的、爆炸性的影響，改變我們人類將來整個社會運行的方式跟社會的價值觀念。
人類社會將來怎麼樣能夠有智慧地因應這幾個大的難題，我覺得會對人類的歷史，不僅是對台灣，對我們70億人都會帶來非常不同的結果。甚至我有一個比喻，我們可能正站在歷史的十字路口，是通往更接近理想的烏托邦還是通往奴役之路，可能就在這個未來的幾十年裏面，可能我們就在這樣的歷史關頭，這是嚴肅的挑戰。
我先講幾個簡單的例子。今天為止，當我談這個問題要有一個範疇，並不能把所有科技發展納入，或是僅限於所謂狹義的AI，這兩個都不是很好的切入點。
我認為其實它具體表現在：生產、製造各方面來説，智慧機器人是未來的趨勢；大數據我想也是，因為大數據將來隨着下面會講的萬物聯網（Internet of everything）所能創造的浩瀚，用天文數字都不足以描繪。它的數據複雜跟它的巨大已經超過我們所謂人的智慧跟分析能力，無法消化、整理，所以必然是要依賴AI，它的巨大的算法能夠非常有效率地去處理大量數據。
另外，AI最值得關注的就是它的深度學習，説不定不久之後它就真的能去模仿人的很多一些重要的基本能力。到今天為止，機器還沒完全替代，特別包括語言，它不僅是一種辨識，也包含溝通。
將來它的算法跟它計算的速度要求越來越高，所以量子運算（quantum computing）將來也是一個重要的突破，因為它會讓AI的潛力可以發揮到更極致。
所以這幾個我認為都是相關領域，就是説跟AI革命是不可分割的。
AI對“民主政治”的影響
在這個範疇裏面，很清楚，對於所謂民主政治運作，它已經出現各種正面的，但也帶來很多負面的作用。
首先呢，就技術上來講，運用AI的技術在選舉預測方面，相比傳統的民意調查已經展現出其優越性。在很多次關鍵選舉中，包括英國的脱歐公投，AI的預測都比專家和民意機構更加準確，也包括川普的當選。
Sanjiv Rai他就是一位在AI領域裏面非常有創意的工程師，也是一位企業家。他從2004就開發MogIA，這也是會自我學習的一套算法（algorithm）。自從他架設以後，就讓它自己去修正，根據事前跟事後的資料修正，用大數據，用facebook還有其他social media裏面百萬筆、百萬筆的數據，去採集裏面各種訊號，然後來看每個候選人在每一個選區得票的吻合程度，所以它成功預測了川普的當選，令所有專家跌破眼鏡。
也可以説川普的當選裏面也運用了AI的技術，事實上，在競選上來説是一個巨大突破。他可以跟很多擁有個人信息的公司買信息，所以他對每一個家庭裏的基本政治傾向，平常看什麼雜誌、聽什麼收音機，大概都可以掌握。然後就考慮他有這種心理特徵、有這種心理傾向，我怎麼刺激他？怕移民的就散播一些移民，有可能小偷、有可能強暴，讓你很恐懼的信息，讓你更反移民。這裏面的操弄其實已經達到前所未有的高度，而且完全是量身訂做。
他派出志願工作者去挨家挨户拜訪時，電腦上已經知道這一户從來都是投民主黨，放棄，不要浪費時間，下一户是可以爭取的，再下一户是你要跟他稍微隨便談什麼問題，應該從什麼問題切入，每一個挨家挨户拜訪的都有這樣一個personality profile（個性側寫）或psychological profile（心理側寫）。
擁有這種技術的公司，如Cambridge Analytica也發了大財，現在很多國家的競選團隊都找他們去運用這樣的大數據跟AI所提供的技術，從某種程度來講完全是操弄選民，選擇性地給選民特定的刺激，而且通常是運作他們的情緒、恐懼或者説一種仇恨。
所以也有學者針對這樣的趨勢非常憂慮，像Harvard畢業的Cathy O’Neil就寫了一本書叫《Weapon of math destruction》，用數學，也就是算法對民主政治帶來極大的摧殘，因為民主它原本是希望每一個選民，或多數選民，或中間選民能夠做獨立判斷。今天很難做獨立判斷，因為你的信息來源太混淆了，而且真假莫辨，網絡上的一段影片，讓你看得義憤填膺，但後來發現是經過加工處理的。
所以虛擬跟事實間的界線在網絡上可以説是非常模糊，而且大量的假新聞惡意中傷謠言，可以很快在社交媒體和網絡上傳播，等到已經傳播出去了，傳了千里之後你再來消毒是非常困難的。
很多一般人使用網絡的習慣或是閲讀習慣也改變了，主流媒體的重要性不斷下降，以前主流媒體都會扮演gatekeeper（看門人），就是可以過濾，太偏激的、太離譜的不報導，但現在這樣的功能已經被社交媒體取代了，結果很多人就變成跟自己屬性、觀念或偏見類似的人相互取暖，整個社會里面變成對立性更強，我們稱之為社會的“數位部落主義”，也就是説，每一個對其他羣體有偏見的人，彼此之間相互增強，而且跟他仇視的、疑懼的其他團體，基本上完全沒有交集，也不往來，也沒有共同分享的信息平台，這些問題都很嚴重。
當然AI的技術跟大數據也帶來一些可能潛在的正面作用，可以把政治過程、政治人物的言行更透明化，而且讓他一舉一動、一言一行都留下記錄，而且也可以及時查證。
像加州已經設立Digital Democracy網站，很多資料跟進，先從州這一級的政治人物的言行舉止開始，然後另外再配一個有很好功能的網站叫做Politifact。這個Politifact，收集各式各樣的基本信息跟數據，而且這些是正確的，政治人物講任何話，裏面有涉及到任何事實陳述的，馬上就用這個網站主動去做查證，他講的是對或是錯，還是完全對、完全錯。
比方説Hillary，他在競選期間所有的言論都被AI功能的事實查證的網站公佈，他的指標多少，他是完全正確的28%、基本上正確的23%，接下來，當然就是隻有一半正確，或是基本上不正確或完全不正確。如果是Trump的話，記錄比這個更差。
這的確增加透明度，增加我們糾錯或查證的能力。不過問題是，很多中間選民或一般選民，他們不見得有那麼多時間跟精力去追蹤這個信息，就算舉證出來了，是不是真的會影響到政治人物的言行？還不清楚。
AI對國家運行的影響
另外，我想要談的就是，人工智能本身的來臨，今天上午已經談了很多，影響整個生產方式、商業模式、企業組織對不對？其實對國家也是這樣，因為國家基本上是一個大的官僚機構，所以如果AI技術全面引入政府體系的話，一方面國家的管理能力可以跳躍式升級，另外一方面人力可以大幅精簡。
還有一點，從某個角度來講，假設沒有隱私權保障的邊界，國家可以對全社會進行數字化管理，都沒有問題，所有人的身份識別是全覆蓋的，所有的基本活動記錄是可以全天候的，你什麼時候出了大樓的門、什麼時候上了什麼車、坐什麼公車從哪一站、幾點鐘下來，其實都可以留下記錄和足跡，甚至你參與的經濟交流、交易等等。也就是説，將來一個城市，如果要利用這些大數據、這些動態流量的數據去做管理，是非常超級的智慧管理能力，對不對？
但它也帶來前所未有的挑戰，很不幸它也有保家衞國的國防功能，將來戰爭形勢會非常可怕，沒有聲音、沒有煙硝的戰爭。支撐運算能力跟儲存基本信息的服務器，它的安全性是一個巨大的考驗。如果所有信息在這個東西里，今天可以把它完全摧毀或是癱瘓，整個社會就停擺了。假設，將來所有的地籍資料跟所有的房地產、所有權資料都只有digital沒有hard copy的話，如果資料被“黑”，這個社會就天下大亂了。
我們當然很高興將來可能有自動駕駛汽車，説不定所有的駕駛都是自動化的，但從安全角度來看，如果指揮這些駕駛的AI系統被侵入、被改造，每一部車都可以變成一個襲擊者，變成攻擊社會最有殺傷力、而且無所不在的武器。
總而言之，我們可以看出，這些都是AI革命帶來國家職能裏面各種不同、可能的巨大影響。
再舉兩個很直接的例子，也是我自己親自做過考察的。過去2年，中國大陸海關機構已經完成全面智能化，現在基本上，就是線上報關、線上核准。以前所有的海關就跟我們一樣，比如説我們基隆關、高雄關，對岸也是一樣青島關、上海關，然後下面還有分支，然後都是屬地的，由人工來做抽檢，其實照理説，全部都不需要。
而且機構的信息系統對一個正常或是經常有進出口記錄、有報關記錄的企業，它所有過去的記錄幾乎都一清二楚，如果過去每年這個時候大概會進多少鋼料、進多少鋁材都很清楚，而且今年的數據沒有特別奇怪，一定自動審核過去。事後可以追蹤你，可以從將來的出口記錄裏面看你進這麼多，怎麼會沒有出，或進這麼多，怎麼會沒有庫存、沒有銷售額，這一定是有問題。何況這個貨櫃其實從長堤港出關時，兩地的海關基本數據已經串聯過來了，重量多少一清二楚，一進關，用電子磅秤一秤，重量有一點變化是可能的，有些東西蒸發掉或怎麼樣，只要偏離正常的，標準差的誤差區間，馬上可以抽查，所有東西都是電腦化的。
所以中國海關現在有個最大的困擾，要這麼多公務員幹嗎？沒事做了。第一個派你去甘肅扶貧，下鄉當插隊幹部，或做輔導工作，轉型為信息服務。既然我們有那麼多數據，我們就是一個經濟數據服務公司，我可以做很多宏觀預測，提供給國務院做參考，也可以給廠商，你需要什麼樣的分析，我可以幫你分析，只要跟進出口有關的數據通通都有。
有人説我要預測川普當選，我根本也不需要用追蹤social media，我只要去義烏收集一下，廠商接下的訂單，川普的帽子跟Hillary的帽子哪一個比較多，要是有川普LOGO的帽子4倍於Hillary，你就知道川普大概會當選。
總而言之，這意味什麼？意味着，我們政府過去用人工審核，基本上就跟銀行或保險公司一樣，其實都可以被替代，連申訴都可以由AI替代。
當然，這是一個巨大的改變，阻力之大你可以想象，問題是科技在那個地方，帶來這樣一種可能性，像有些地方有些機構已經在面對這樣一個狀況。比如説深圳海關的智能通關係統的中控中心，這是全世界負荷量最大的，為什麼？因為蛇口本身就是全世界五大貨櫃碼頭，香港第三大，香港很多貨運也是要經過這裏轉運到內地，所以深圳海關這邊的貨櫃量是天文數字，但是現在完全可以用這樣的智能化處理。
我剛剛提到，國家機構將來可以對社會做無死角全覆蓋性的動態管理，舉例而言，中國大陸公安部門已利用最先進的臉部辨識技術，加上二代身份證，收集所有臉部的特徵，可以對13億人在3秒鐘內辨識身份，準確率已經超過90%，在過去這是不可想象的。
又如，某個小偷他離開現場，但有被看到，追蹤之後，不到幾秒鐘，接到報案的公安就已經知道他是誰了，而且AI還可推算他最可能逃亡路線有三個，警方去這三個地方等，就可以等到他，所以十幾分鍾就可以歸案。
美國FBI也在做同樣的事情，例如破Boston爆炸案也都需要，所以聯邦調查局現在也要為4億多人建立臉部辨識系統，當然，這個系統也帶來很多其他方面的顧慮。
AI帶來的五大政治難題
今天為止，我們已經看到正在發生中的AI在政治領域的一些作用，但我今天真正要講的是，下面這個大的重點。事實上，我覺得AI技術及其潛力帶給我們人類社會一些難題，我歸類成五個非常大的政治難題，也可以説是整個社會面對的不管叫制度也好、規範也好，或是根本價值選擇的難題。
第一，將來政府有可能具有超級智慧能力，全面的社會數字管理能力，而且幾乎已經可以説是不可擋，尤其萬物聯網之後，你的足跡就在那裏，反過來説，就是整個社會是一個超透明社會，人類從來沒有進入過這個社會。有時候想，也許天堂就是超透明社會。這個超透明社會就是，一個人已經不能做什麼壞事情，而且也沒有空間讓你做壞事情，因為你所有做過的事情都會留下記錄，而且很難去改變。
第二，未來是一個所謂數字的經濟，在這個經濟裏面，原來我們講傳統最有價值的生產要素——以前是土地，再者是勞動，然後是有形的固定資產，後來有人加上管理或其他的，但將來所謂無形的，尤其是數字資產，會是整個社會生產裏面最關鍵的因素，所以變成最重要的生產要素。
而這種生產要素有什麼特性呢？他的複製成本是0，沒有稀缺性，那就顛覆整個經濟學，因為經濟學是奠基在稀缺性上發展出來的學問，以這樣的一個情況來講，以後社會里面AI帶來巨大的生產技術突破，經濟果實怎麼分配？這是一個最關鍵問題，等一下我會講。
第三個問題，將來我們人類的命運，會逐漸進入零邊際成本社會，可能走向分享經濟、共享經濟，有點像是社會主義烏托邦，但也有可能走到一個比我們現在看到更嚴重的貧富落差，兩極化的數字資本主義，這兩個可能性就在我們面前，我們要怎麼選擇，或是説我們今天做什麼決定，會影響將來更有可能往哪個方向做社會制度變革的路線。
再往更全球的範圍來看，像美國企業家馬斯克，他已經做了各種難以想象的大膽實驗，然後也會充分掌握AI帶來的巨大潛力，可是大家可能知道，全世界70億人裏面還有一半連網都沒得上，所以再講所謂數字落差，會有另外一個新的面向，就是説，有些人會因為自己有AI的協助，而如虎添翼，其生產力可以天文數字般的倍增，這落差將來要怎麼處理。
第五，是一種比較陰暗面的，但我們也不能不面對，就是如何確保AI的和平使用。因為AI對世界的和平或人類的生存來説，潛在的毀滅性會超過核武器，核能技術和平使用一直都是我們把這個妖魔從瓶子裏放出來後一個巨大的難題。而AI的和平使用會比引導核能和平使用更難，為什麼？因為監控核能有沒有和平使用比較容易，譬如説核試爆，或是説核武、高濃度鈾的囤積，這些基本上都能夠追蹤，但是AI驅動的無形中殺人的武器，可以小到像一隻小蜜蜂，釋放出幾百萬個小蜜蜂，每個甚至可以鎖定特定的對象，並把他消滅，這都做得到。
我們能否適應透明化社會？
再來談幾個我已初步思考過的問題。首先，我想必須要接受這樣的事實，就是超級透明社會已經到來了，而且將來會更透明、會鉅細靡遺，從出生到死，一生下來就可以做DNA檢測，並馬上把DNA序列放入電腦，所有潛在的健康問題可能事先可知道，如，可能有多少幾率得到癌症、正常情況下平均壽命在什麼區間，所有的健康、言行、消費都可以被記錄，但並不是説一定被記錄。
當然好處是説，將來只有電子錢沒有現金，現在很快丹麥、瑞典要走全電子貨幣，以後現金會完全禁止使用，就消失了，就不能腐敗了，對不對？財富要藏匿也不容易，也許可以藏到國外，但如果，有一個全球性的合作就很難，企業很難逃税，黑社會也很難買賣毒品。所以為什麼比特幣其實很有用，不想要被透明化就可以用他匿名、加密。
你要這樣想，一個超級透明化社會再搭配一個超級智慧政府，例如AI給他一個巨大的追蹤分析監控能力，我們把他稱作夜不閉户、講信修睦的人間淨土，但從另外一個角度來看，是個人自由就可能徹底消失的一個極權社會，這是兩面性，我覺得我們避免不了。
另外，很多社會制度就必須要統一設計，或至少要作大幅的改變，以前選出100個、200個議員，幫我去監督政府，頂多再配上幾個助理，再加上審計部門等等，這種監督方式跟超級透明社會、跟超級智慧政府相比是非常非常有限的，所以就必須要有不同的設計，才能制衡有那麼強大數字管理能力的政府，以及中間可能出現的弊端。
有幾種設計，一種是去中心化，就是不要把所有東西都集中在一個垂直管理的官僚機構。另外一種是以強制強，制衡機構本身必須也要有這個大數據資源，也要有等量的AI，靠算法跟深度學習能力，用AI檢查另外一個，否則，很多AI將來會變成黑洞，因為根本不知道複雜算法裏到底發生什麼事情，它產生偏差化，源頭在哪裏？有時可能用人工也已處理不了。
還有就是從AI的設計規範開始着手。AI本身就應該要有一些基本規範，所有涉及到基本功能的，譬如健康、人身安全、教育等等，裏面就要開始內建功能，自己會去作自動介入或自動糾偏。例如，在裏面出現一些訊號是我們認為偏離合理的法律或道德規範的，就會自動去糾舉。
另外，在一個高度透明社會，很多過去社會制度已經沒有辦法因應。
以前社會保險的觀念是，“我不知道自己未來能承擔多少可能的風險”，到底我會不會得癌症？還是我會很健康活到幾歲？沒關係，大家都一起以公平、等比的方式來分攤保險的支出。
可是以後不一樣，若你父母親給你的基因好得不得了，你得癌症基因很小，可以活到99歲，另外一個人的基因則所有的健康問題都出現了，若是民間保險公司，可能就説對不起，這些人我不要保，而拼命保基因好的人，因為所有東西都是透明的，所以顯然這些風險分擔的制度都必須要重新設計。
另外，既然每個人一言一行都會有記錄，如果社會又不給多元的包容性，那問題就很嚴重，你將來去應徵工作，人力主管也許會要求你籤一個同意函，同意可以調出你所有資料。假設，我在高中時用非常粗魯的言語罵我旁邊的女生，這些記錄都在。所以我們本身要去適應這樣一個超級透明化的社會，或是用什麼方法進行一種所謂“數字更生”，就像一個受刑人，給他一個新的身份證一樣。這些問題都會出來，我覺得最大的挑戰是這個地方。
人類正處於十字路口
我們面對社會變遷，或社會制度變革的選擇難題，是因為今天的AI技術，基本上還是在資本主義內。當然，部分是國家主導，因為主要用在國防或是境內安全管理。如果我們完全只是放任眼前壟斷性的數字資本繼續往前走，不僅社會內部的貧富差距會變得極為可怕，富裕國家跟落後國家之間的差距也會成為比今天更大的鴻溝。
反過來説，AI也有積極面。如果能夠有新的社會契約跟新的國際規範，讓數字科技的生產力快速提升，以及我們講的trickle-down（涓滴效應）或普惠性的效益能夠全面釋放，那真有可能透過AI革命把人類社會帶向分享經濟跟社會主義的大餅。這可能性是存在的，因為，經濟學以前最大的問題是稀缺性，現在數字資本最大的特性就是複製成本非常低，或接近於0。
我舉個例子，在過去30年的高速全球化中，已經出現這樣一個現象，就是經濟力量或是創造財富的能力已高度集中在非常少的企業手上，這個現象是人類歷史上少有的，以前當然也不是説沒有，比方Rockefeller等，但是像目前這樣，在全球範圍裏經濟力量如此集中的狀況是前所未有的。
這對我們生活面向的影響是全面性的，如對就業、經濟福利、社會安全、食品安全等等都是無遠弗屆。如果今天用國家的收入可以跟企業營收作等量齊觀的指標，也就是，政府是一個經濟實體，企業也是一個經濟實體，政府有它的收入、企業有它的收入，這樣來比的話，全世界100大經濟體，只有30個是主權國家，70個都是企業。譬如，Walmart的營收全世界排名第10，其營收要超過西班牙、澳大利亞、荷蘭政府等等的收入，所以這已經不是任何一個國家單一的管制措施，或是公平市場規範可以控制的事情，這隻有美國、中國、歐盟還有可能，但是如果三邊不合作也很難，不然就要更高層次的國際組織。
而且有人説AI會帶來decentralization（去中心化），但是，如果AI因為智慧財產權（知識產權）的保障、因為獨佔性的平台壟斷，那麼去中心化不一定會發生，相反可能會再高度的中心化，這個可能性都存在。
Jeremy Rifkin的著作《零邊際成本社會》已經出版好幾年，這本書也有中文翻譯，大家若關心AI的未來，我高度推薦這本書。
當最重要的生產要素如果是數字的，不管是數據或算法，會有什麼情況？比方，AlphaGo或AlphaGo Zero可以打敗世界排名第一的棋士，一旦被設計出來，那可以讓它同時變成1,000個AlphaGo Zero，或是10,000個，只要有一個大電腦跟它配合就好。各位想想，若要產生10,000個像張栩這樣的世界級天才棋士是多麼不可能，但是對數位來説，只要一個按鈕就可以複製。
在這個情況下，它可以讓生產過程中的邊際成本不斷下降，而且接近於0，按理價格應是不斷下降也會接近於0，很多商品會接近免費，而且可能在有如此的技術條件之下，剩餘跟充裕會取代稀缺，所以整個過去資本主義的邏輯會被顛覆，除非掌握這些技術的人要排他性地壟斷、獨佔，特別是運用所謂的產權或專利。
所以這本書裏面特別描繪的一個現象就是，如果我們可以讓普及所有人的經濟福利釋放出來，或許將來會進入一個完全和以前不一樣的社會，一個零邊際成本社會。這個社會就是大多數人，可以透過參與互助、交換跟分享，就可以滿足基本需求，而且不需要再去依賴朝九晚五固定的工作，或是説必須花非常多的時間參與勞動市場，然而，這個可能性能不能出現？不知道，要看我們將來的制度跟法律怎麼設計。
各位可以想象，如果從好的方向來想，未來可能不僅是跟數字有關的生產要素成本會越來越低，因為能源是大眾日常生活消費佔比很大的一個支出，將來自給自足的可能性也都存在，甚至可以在自己的社區、住家種植基本需要的蔬果，這些也可能都存在。現在有人工光合技術，而且照料收成的是機器人，在家也還可以3D打印，一些小物品可以自己製造。在這樣的情況下，資本主義本身所謂靠刺激消費動能會減弱，很多人會退出商品市場的機制，尤其可透過分享跟交換就可以滿足需求。
專業的服務也是一樣，比如專業理髮師，可在社區幫很多人理髮，累積社會點數或社區數字貨幣，再用這些點數或是數字貨幣去換很多東西，如交換繪畫學習、小孩上英文的課程等等。時間銀行就是這個概念，而現在只運用在照顧老人範疇裏面。所以這種可能性將來絕對沒有問題，因為未來的運算能力、儲存社會交易記錄的能力，以區塊鏈技術多大的量都沒有問題，一目瞭然，而且不能篡改。
就社會學家、政治學家跟哲學家，最光明的時代也來了，有那麼大的一種全新想象空間，或許可能一下子沒那麼快變，但是很值得探討如何運用在這樣一個新的技術條件跟社會條件之下。
另外，我認為還有一個很重要的課題，稍早有一些學者已經開始討論，但我覺得都還不夠系統化也不夠深入，就是面對一個數字經濟或數字社會，需要新的社會契約，甚至要改寫有關基本人權的一些基本規範。
我舉最典型的例子，每個人所生成的所有數字信息，包括DNA序列到所有的消費行為數據等等，各種不同的生活足跡，如果只是單筆來看，好像沒什麼價值，反正數據庫裏面1,000萬人，少我一個算什麼；但是反過來講，我一旦能夠收集1,000萬人的時候，這個數據庫就非常有價值，如果1,000萬糖尿病病患的醫療歷史都在這裏，什麼樣的情況、什麼樣的體質、什麼樣的基因，用什麼樣的藥可以產生什麼效果，這裏面再去擷取各種經驗法則，全世界最好的醫生都比不上，而且這種人工智慧的醫療診斷跟判斷，邊際成本是很低的，服務1萬人跟100萬人、1,000萬人，其實成本增加很少。
所以，第一，如何使技術不只讓收入最高的1萬人享受，而是能夠讓1,000萬人都能享受，這是一個難題對不對？
第二，既然我們每個人都對這個大數據資料的生成有貢獻，可能包括很多方面，如我的消費行為、人生智慧、交友、政治參與及醫療歷史等都在裏面，我要知道它收集我什麼東西，而且我要知道它存在哪裏，我自己有權利隨時去取得。
既然這個1千萬人也好，1億也好，大家共同貢獻出非常多高附加價值的信息到大數據庫，未來這個大數據所衍生的附加價值的淨利應該歸誰？應該有個制度，至少要有相當一部分，或是很大的一部分要平均歸給每一個當初貢獻的人。
但這是一個集體性資產，因為這個資產只有在大規模集體同時貢獻時才有價值，如果只是個人數據，沒有多少交易價值，也沒有分析的價值。所以，如果我們一輩子所產生的所有數字信息，可以貢獻於幾萬個不同屬性的大數據集合，在每一個數據庫裏，我都應該有一筆小的股份，儘管那個股份是1,000萬分之1，但因為生成出來的是有價值的信息，它所產生的各種經濟交易的利潤，如果有一套機制可以回饋給每個人，我認為這就是數字時代的基本人權保障，這是目前為止沒有人討論的問題。
當然，我們知道google、amazon不希望大家討論，他們希望大家在註冊帳號時就籤一個同意聲明，接下來就不用管了，這個信息他們拿去做什麼、賣給誰，跟什麼信息混合在一起跟你無關。所以我們來看，這些大企業，其實包括百度和阿里一樣，他們現在變成政治説客，影響政府的很多法律，這些特殊利益集團，並不代表絕大多數人的利益，而這麼重要的基本人權很少有系統性論述，這是非常大的理論缺失。
AI時代的人類典範
最後我要談的一點就是，零邊際成本可以造就共享社會，其實分享經濟已經到來，只不過現在還在很小的範疇裏面，而且我們已經受惠了。人類現在最大的知識儲存庫是什麼？就是維基百科，所有人都可以貢獻，也可以享用，這是一個最典型的數字時代共享經濟，而且沒有人宣稱這是屬於誰的知識產權，因為它不能作各種商業的、盈利的使用，也不能主張copyright（版權），我們把他叫做copyleft（版剩）；就是一種開放式、自由版權或開放版權。
所以我認為，將來在學校裏面教育下一代，21世紀我們作為人生的奮鬥目標或是典範，不應該是Bill Gates，對不對？他能累積千億美金資產，因為他完全佔用、利用了零邊際成本的所有好處。如大家買一台電腦附加microsoft，而附加的邊際成本只需幾分美金，可是因為微軟是獨佔，還有知識產權的保護，所以微軟不跟大家分享獲利，而變成他跟員工與股東的分紅跟股利。我不是説不需要激勵這類創業家，但其實不需要激勵到這個程度，照樣可以讓很多人願意去貢獻、願意去投入心血，而現在這個激勵制度完全是徹底扭曲了這個社會的價值分配製度。
我們講Khan學院創辦人Salman Amin Khan，或是像維基的創辦人，我認為這才是21世紀典範，他們可以很容易地變成一個億萬富翁，因為這個線上數學教學，後來擴充到物理等很多領域，是學習效果最好的線上學習互動軟件，免費開放，現在連非洲的小孩只要能上網，都可以透過此網站學習各種微積分、幾何、英文等。很多硅谷的人認為，Khan學院將來如果變成一個完全商業模式的，它的IPO可以價值幾百億美元甚至更高，但Salman Amin Khan拒絕誘惑堅持免費開放學習政策。所以，在數字經濟的零邊際成本條件下，我們面對人類社會的最可能的兩種不同情境：是創造比Bill Gates有錢超過10倍、20倍的鉅富，還是去鼓勵更多像Salman Amin Khan這樣的人。
結語
總而言之，今天有很多大的議題，下午的圓桌論壇，我可以進一步跟各位對話。最後，我要談一下民主體制本身也面對巨大的危機，這個危機可能現在很多人都想象不到。如果，我們把政治體制看做是一個數字或信息的轉換過程，比如説，政府收集所有人的政策需求跟偏好，然後轉換成公共政策，轉換成預算分配，轉換成法律，這就是信息的轉換功能。
今天的代議制度是什麼樣的一種信息收集跟轉換？我説那叫石器時代的制度，最原始的制度。每4年請你提供最多不到2個比特的二進制數據，也就是投給甲黨、乙黨還是不投票，只要用2個比特就可以記載下來，收集起來，憑這點信息，就賦予執政者未來4年制定所有法律的權力，通過條例、編預算的權力，在信息時代我們可以問：憑什麼？明明在任何時候都可以利用大數據全面掌握社會多數人在這個問題上的需求或想法，為什麼不依據大數據來制定政策呢？而是讓那113人在“立法院”內每天吵架、拍桌子，有什麼代表性呢？怎麼知道他們後面不是財團、不是金主？
所以代議制的邏輯會被大數據、AI整個顛覆掉，這是一個非常大而嚴峻的挑戰，為什麼柯文哲市長到市議會可以理直氣壯説，你們後面是什麼我都搞清楚了，就是因為大數據。另外，這也是柯市長透過大數據，瞭解市民希望交通這樣或希望衞生那樣，所以科技變化已經帶給代議民主巨大的合法性危機。
也有人説，有一天是可以選一個AI做總統，為什麼不行？這個總統多好呢，可以跟各位説，當你要把它理想化時，它可以是沒有自我，可以把它設計成沒有自我，無私、無慾，也不能賄賂它，可以把它設計成要聽很多人的建議，博採眾議，可以讓它讀所有過去的治國經典與哲學，從資治通鑑、孔子、亞里斯多德、柏拉圖，都學起來，把所有偉人面對艱鉅的困難，他們是怎麼決定的，都可以學習，然後賦予它的任務很簡單，就是maximize（最大化）絕大多數人的基本福祉，而且還可以不斷有更新版，還可以演進。
當然，這是一個科幻想象，但它一方面凸顯了這個技術可能帶來完全不同的強大制度，另一方面，就是對照我們所面對的各種挑戰與難題，不得不嚴肅地去思考這樣的一種可能性。謝謝大家。
（感謝朱雲漢教授賜稿，本文部分內容已按大陸讀者語言習慣修訂，修訂部分未經作者審核。）