站上道德制高點非常容易，但迴避一切技術給你帶來的好處，卻極其困難_風聞

造就第424位講者 鬱喆雋

復旦大學哲學學院副教授

大家好，我叫鬱喆雋，來自復旦大學哲學學院。造就這次找到我，交給了我一個特別困難的演講題目：我們應當給創造力設限嗎？

而我作為一個老師，一個學術工作者，最開始聽到這個題目的時候，我的反應是這個樣子的：

我想，人類的創造力已經這麼有限了，為什麼還要給創造力設限？應該讓它盡情發揮！

但是，出於我的職業習慣，我就覺得這樣一個句子，它的結構是不完整。所以我給它補齊了句子的結構，把它主謂賓全部放上去。把這個句子改成：

我們應當為創造力劃定邊界嗎？

你看這個句子補全之後，它就不僅僅是一個口號，或者命令式的祈使句。它變成了一個完整的句子。

主語是我們是誰。接下來是應當，應當在哲學上是個應然的問題，它不是一個實然的問題。我們永遠不能從實然推出應然。所以要問，為什麼應當限制？接下來哪種創造力，還有大家肯定也會關心，如何來為創造力劃限？

當然，最重要的問題，作為每一個最終的消費者會問這樣一個問題：如果我們給創造力劃定了這樣一種邊界，這些邊界會影響哪些人？

不同人類文明對待創新的不同態度

我會分別給大家分析這5個問題，第1個問題就是：我們要限制哪一種創造力？

人類的創造力是多種多樣的，而且如果我們縱觀整個人類的文明歷史、文化歷史，我們會發現，不同的時段 、不同的文明，對創造力的態度是截然不同的。我僅僅給大家做兩種極端的歸納：一種叫作弒父文化，另外一種叫克子文化。

區別在哪裏呢？

弒父文化，意味着下一代人總是覺得上一代人，你們是有問題的，我看你不順眼，我不一定要從肉體上把你幹掉，但是我要從精神上幹掉你，我要超越你，創造出更新的更好的東西。這就是弒父文化。

另外一種呢，在某些時段和一些國家有所謂的克子文化，就是下一代的人看到上一代，永遠處在一種戰戰兢兢、唯唯諾諾的態度當中。

大家可以想象一下，弒父跟克子，哪一種更有利於創新？

肯定是弒父文化。但是一旦弒父文化過了頭，把整個人類文明的最底線的東西給顛覆掉，創新也是無法完成的。

所以我開一下腦洞，以幾個人物為代表，來對創造力進行一下小小的歸納和總結。

從左到右，第一是莎士比亞，人類文學的創造力；貝多芬，音樂的創造力；達芬奇，藝術繪畫的創造力。

最後兩個，圖靈跟愛因斯坦，是不是完全要打勾？

打勾的意思是説，對於莎士比亞這樣的文學巨匠、貝多芬這樣的音樂家、達芬奇這樣的美術家的創造力，我覺得完全沒有必要對他進行設限。

為什麼呢？因為這樣的創造力有一種特點，他們創造出來的作品，如果我們不去聽他的音樂，不讀他的作品，他對你是沒有直接的影響。

但是後兩位，要稍稍猶豫一下，圖靈我們知道他是個數學家的代表。但是，如果他作為一個現代計算機之父、人工智能之父，這種技術產品對我們的影響，可能就跟前面的文學藝術作品不一樣，它會影響到我們每一個人。

如果我們把愛因斯坦放進來，那就會發現——問題更大。

我們知道愛因斯坦是個著名的物理學家，但是他的物理理論在現實當中的應用，其實已經深刻地影響了我們每個人的生活，甚至人類歷史的演進。

科技發展的科林格里奇困境

所以前幾種創造力，我認為沒有必要對它進行限制。但是對於後面的科學技術 ，我認為需要進行限制。那接下來這個問題就是：

為什麼要對技術的、科技的創造力進行限制？

在哲學當中，我們經常有這樣的觀念，認為科學跟技術是截然不同的兩回事情，雖然在我們的日常語言當中經常把二者混在一起，叫做科技。它們之間基本的區別在哪裏呢？

科學家，仍在研究科學的時候，基本上是處在一種截然的旁觀者、置身事外的狀態。他想更好地理解這個世界、這個宇宙， 理解它內部的運行規律和規則。

但是技術不一樣。當我們在談論技術的時候，人是一個實際的行動者，甚至是一個利益的相關者。我們想通過對這個世界的改造，來獲取一些我們自己的好處，避免一些壞處。

所以我這邊寫了兩行字：**科學可能是中立性的，但是技術的應用，絕對不是中立的。**就像這個公式，愛因斯坦著名的相對論的公式E=mc²。

這個公式在技術上的運用，既可以用於和平的發電——一個大家都能接受的用處。但是如果它運用在軍事當中，也可以製造核武器，毀滅很多人的生命。當然也取決於這樣的核武器，掌握在誰的手中、由哪些國家來使用。

所以在我們整個大的哲學學科當中，存在一個比較小的分支，叫做倫理學，或者説道德哲學——Ethics或 Moral philosophy。在倫理學下面又有一個比較小的分支，一個前沿的分支，來考慮這些問題，它就叫做技術倫理學（Techno-Ethics）。

技術倫理學中，對於當代的技術，它其實提出了一個非常有意思的問題。這個問題是由一個叫科林格里奇（Collingridge）的英國哲學家提出來，所以後來的學者用他的名字來命名，叫做科林格里奇困境（Collingridge Dilemma）。這個概念是在這本1980年的書《The Social Control of Technology》裏提出來的。

科林格里奇困境是這樣的：一方面，除非一項技術得到了廣泛應用，否則它的影響不可能被完全地預測；但是另外一方面，如果一項技術得到了廣泛的應用，那麼它就難以控制了。

這個就好比踩剎車的程度，如果剎車踩得太死了，技術創新就被徹底遏制；但如果不踩剎車，速度太快了，大家都已經在高速公路上狂飆的時候，你再要對它踩剎車控制它，甚至變道，已經是幾乎不可能的事情。

所以現在的人類的技術創新，就基本上處在科林裏奇所説的這種困境當中。

如果我們回顧一下**，人類的技術發明創造是有非常多的不可預見和意料之外的後果，英語叫unintended/unforeseen consequence。一個技術專家，一個發明者，在提出這種技術的時候，他完全沒有想到，它可能帶來這樣的後果。**

舉個簡單的例子，我們知道19世紀的時候，德國科學家發明了橡膠硫化技術，橡膠本身是非常粘稠的，而且在空氣中暴露時間長了之後就會老化，變脆變硬，而橡膠硫化技術就可以使它保持彈性。

這種技術產生了一種商品，對我們每個人的生活、對家庭、對人類社會結構，甚至對人口結構產生了致命的影響。這是什麼商品呢？

避孕套。

這是個很典型的、技術所產生的不可預見的意料之外的後果。所以在人類的技術史上，從啓蒙運動以來，其實就已經產生了這樣一種非常深的擔心——我們擔心技術會失控，因為會產生這些不可預料的結果。

就像我這個圖片上面所展示的，歷史上發生的一些案例：比如協和超音速飛機的失事，前蘇聯切爾諾貝利核電站的失控爆炸。

科幻作品當中也有類似這樣的主題，比如説冷戰時期的《奇愛博士》，因為這種機械的運算模式，所以不得不把整個人類拖進到核戰爭的危險當中。

包括像《終結者》這個電影，我們一般人看《終結者》的時候，只知道它是個動作片，甚至有一些驚悚。但是請不要忘記，《終結者》的背景設定是什麼？北美防空司令部的超級計算機失控，用現在流行的話語來説，就是超級人工智能失去了對人類的最基本的關懷。它決定把地球上的人給消滅掉。

所以這種不管是現實當中已經發生過的技術失控，還是科幻作品中設想的技術災難，都體現了這種最基本的人類的擔心。

因此，我們來分析一下，我們現代的技術，到底是由哪些根本性力量驅動的？

我個人的總結把它總結為三個動力，第一個是資本，第二個是權力，第三個是私慾。

其實這三股動力，它的訴求是很不一樣的，資本要求的是不斷的增值、回報，權力要求更大的控制慾，而私慾很多可能跟我們人類內心基本的生物動力是有關係的，飲食男女。

所以技術在這三股動力的驅使下像什麼？它像汪洋大海當中的一隻小船，它自身是沒有動力的，也沒有風帆，它完全不知道駛往何處，只是外面吹的這個大風和湧動的波浪在推動它。

在科幻作品當中，人類反覆地提出過這種擔心。最早的像雪萊夫人筆下的弗蘭肯斯坦，一個被科學家制造出來的怪物，一直到最近幾年受到熱烈討論的人工智能，從弱人工智能到強人工智能，再到超級人工智能Super Intelligence。但是，背後的那個根本的母題（the motif）沒有發生變化，就是：

“被造物開始逆襲”。

在這裏，我們人類好像是一個創造者的角色，而人類這樣一個創造者，實際上按照西方的傳統，也是個被造物，人是被上帝造出來的。但是我們這樣一種被造物，現在走在了歷史的節點上，我們有能力創造一種被造物，我們擔心這種被造物終有一天來反抗我們這個造物主。不僅反抗，它可能把我們最基本的賴以生存的、我們引以為豪的一些能力，從根本上顛覆掉。

一個典型的案例，大家肯定都知道，去年的11月底的時候，前南方科技大學的副教授賀建奎，他向媒體披露，他自己對兩個嬰兒進行了基因的編輯。有很多人説，這是不是意味着科學家的自律失效了？

當然我個人認為沒有那麼嚴重，但是這樣一個潘多拉的盒子已經被打開了。這個事情出了之後，我曾經在課堂上問過我的一些學生，我説：“假使有一天，這個基因編輯技術成熟，你是支持還是不支持對嬰兒基因進行編輯？”

他們紛紛説：“不可以，絕對不可以，鬱老師。這是不道德的事情，我不會這樣做。”

但是我又提了更進一步的問題：“請你想一下，有一天你要為人父母，你要生個自己的小孩，假設是經濟上可承受的，而且沒有任何副作用，不存在脱靶的問題，你會不會讓這樣一個科學家來給你製造一個超級寶寶？這個超級寶寶，可能智商可以達到300，百米速度7秒以下，強化的骨骼永遠不會骨折，免疫於一切的疾病。”

我提出這個問題的時候，大家都要想一想，我要普通寶寶還是超級寶寶？這個時候困境就來了。

人要站上道德制高點是非常容易的，但你要回避一切技術給你帶來的好處，卻是極其困難的。

所以這個問題已經部分地涉及到了對創造力進行設限的話，會影響到誰？

其實，我們每個人都會被它影響到。

最後一個問題，誰來給創造力加一個限定呢？

我也做了一下歸納跟總結，基本上可以歸結為以下的四方：政府、學術共同體、企業和終端消費者。

但是他們各方的訴求依然還是差異非常大。比如説政府，它可能更關心的是國民整體的福利和安全問題。對我們終端消費者來説，可能更關心個人的福利、健康、收益，還有下一代的教育問題。所以有很多人説，必須對這幾方的訴求進行通盤考慮，我們才可能給創造力設限。

所以我引用了一位西方學者提出的分析框架，叫做**利益相關方分析（Stakeholder Analysis）。**就是把跟技術創造有關係的人大致分為三類：技術的獲利方、技術的決策方、技術風險的承受方。這三個圓圈正好可以畫出7個象限。

我們一般人在思考問題的時候，往往更多思考自己從中可以獲得什麼樣的利益好處？但是往往會忘記，我可能承受怎樣的風險。

但是在這個7個象限當中，大家想一想，最難以控制的是處在哪個象限中的人或者組織？實際上是在獲利方跟決策方交叉的這個地方。

因為在這個裏面，有很多不是自然人、個人，而是組織團體，甚至是國家，還有一些超國家的團體。他們一方面既是政策的決策者，另一方面又是這個技術的直接推動者、投資者，能從中獲得巨大的利益。

所以這樣的一個分析模式，使得我們產生了更多的擔憂。對個體來説，是否需要經常轉換思維方式？因為並不是所有人，總是能在技術創新中獲得直接利益。

如果你是決策者，你會對技術進行怎樣的限制？或者你隨時可能暴露在一種你無法預測的風險當中，那麼如何來防控這樣的風險呢？

我們時代的精神困境

最後，我想説的，是關於我們這個整個時代的精神困境。因為我們人類如今走到這樣一個十字路口，前所未有的出現了一種價值相對跟虛無。

歷史上有很多的思想家、哲學家、藝術家、文學家，都提出過對人類美好未來的設想，我們把這種美好設想稱為烏托邦。而烏托邦本身還包含了一種意味——它很難實現。但是現在，我們有各種技術可能性，歷史上提出種種烏托邦，現在都可能實現。

而跟烏托邦截然相反相對的那個概念，我們把它稱作異託邦，就是很不好的未來。但在某種技術的加持下，它是可能出現的。

現在我們人類出現了這種奇怪的狀況：對一個人來説，這種未來它是烏托邦，但是對另外一個人來説，它可能是異託邦，反過來也是一樣。

所以在烏托邦跟異託邦之間，我們經常會傻傻分不清楚，這個時候就需要倫理、道德哲學和哲學的意義。

當然最近的許多討論更讓我看到，不誇張地説，**我們整個人類現在面臨的，是一萬年未有之大變局。**這是我對一句名言的修改，因為李鴻章曾經説過：“中國人面臨的3000年未有之大變局”。

為什麼叫一萬年未有之大變局，這個一萬年從哪裏來？

一萬年，就是人類文明到現在只有一萬年的時間。你能夠看到這個地球表面如此輝煌的各種建築、人造物，人類創造的各種財富、各種制度，都只有一萬年的時間。它相對於整個宇宙演化史來説太短太短。

但是就像這個詞Transhumanism，超人類主義，我們現在的技術不僅可以改造外部世界，我們可以改造自己，改造整個類，甚至把未來的人類給改造得面目全非，改成和現在人很不一樣的一個物種。人類恰恰處在這樣一個十字路口。

我甚至覺得未來不能只談論所謂的後人類，我覺得可能會出現N種不同的人類，他們處在彼此競爭的狀態當中。

所以我找了一段話，這段話來自於文藝復興時期的一位意大利哲學家皮科。他有一本書叫作《論人的尊嚴》，他當然是用一種有神論的口吻，以上帝的視角來對亞當説話，他這句話意味非常深。大家看一下：

我特地把這裏自由選擇四個字的顏色標記出來。生物學教科書告訴我們，所有的物種都在接受自然選擇。但是，大家回想一下，人類在多大程度上還在接受自然選擇？

人類在絕大多數程度上都是自由選擇，我自己給規劃一個未來，自己設計自己的形體，甚至未來精神的樣貌。

人類恰恰已經突破了整個自然的演化史，達到了這種自由選擇的境界。

所以很多人經常給我看這張圖——人類的演化，從類人猿開始，到直立人，然後到智人，就是我們這個種homo sapiens。

但是未來會怎樣？我們未來會變成硅基生物嗎，還是向賽博人進發？

結合今天的主題“創造力”，我總結一下。首先，縱觀人類在宇宙當中的地位，或者説人類能夠產生如此輝煌發達的文明，這本身説明了，人的創造力是好的。

但是，在創造力當中，在當下，尤其需要引起我們關注和反思的，是技術方面的創造力。因為技術的應用絕對不是中立的。

當然最重要是第三句話，其實，當我們作為終端的消費者，作為自然人，作為個體，在選擇技術的應用時，不是在選擇一件商品，也不僅僅是在選擇一種生活方式。

從根本上來説，使用技術，就是在選擇一種人性和人類的未來發展方向。