皇帝的新裝自欺欺人？ChatGPT最大的隱患：當人類無法分辨AI在胡説八道_風聞

 ChatGPT無法憑空創造之前不存在的源頭知識，也無法自己給自己提問題，但它會大大減輕創新者的日常工作負擔，讓全社會把重心和資源放到更要緊的工作上。

作者｜劉正

Simon Kucher戰略諮詢顧問

根據2月1日瑞銀髮布的一項研究報告顯示，僅僅發佈兩個月，ChatGPT月活躍用户已達1億，這是歷史上增長速度最快的應用。為此，Instagram用了2.5年，TikTok用了9個月。

ChatGPT正在快速滲透各個行業，並且改變原有的運行邏輯。在教育領域，根據一項針對18歲以上學生的調查顯示，89%通過ChatGPT完成作業，50%藉助它來寫論文。如此強大的一款人工智能應用，它的到來是把人類從複雜的腦力勞動中解放出來，還是製造混亂，或者是替代人類呢？

ChatGPT是頂級復讀機，“復讀機”式人才會被替代

當我讓實習生去測試ChatGPT如何用於戰略諮詢時，她的表情有點複雜：那是好奇，興奮，警惕和擔憂的混合體。

畢竟，如果一個聊天機器人能秒答各種桌面研究的問詢，我又何必辛辛苦苦指導實習生小白去找資料，等個半天，最後還得自己返工呢？

經過一番把玩和“bootstrapping（自舉法）”的調研後（是的，我們讓ChatGPT去回答它自己如何應用於諮詢業），我發現這傢伙非常擅長胡説八道，各種信源信手拈來，而且還總能自圓其説。但只要對專業領域多問幾段，一般就能戳穿其東拉西扯的“縫合怪”本性。

不過這胡説的本事，倒也和某些諮詢老油條難分伯仲。

眼看着ChatGPT月活破億，成為有史以來增長最快的消費者應用，想必大家心裏都在嘀咕：這東西這麼能幹，那我幹啥？這種擔心非常缺乏新意，砸了織布機的盧德分子，燒掉集裝箱的碼頭工會，和堅決不裝ETC的前高速收費員都紛紛舉手。但真的用到ChatGPT後，我更加堅定了最初的判斷：ChatGPT不是人類工作的結束，這甚至不是結束的開始，這是解放的曙光，因為ChatGPT是史上最棒的復讀機。

我們常説人類的本質是復讀機，從日常工作看是有道理的：大部分Bullshit job的本質就是各種花式復讀，把信息搬來搬去，彙總拆解，排列組合，上傳（meng）下達（pian）。而ChatGPT做起這些事來簡直不要太容易。

高達數十億量級的語料庫和同等量級的參數，意味着對各種問題能做到一力降十會：**考滿分的絕招就是把所有答案都背下來。**而作為基於GPT-3.5大型語言模型的應用，這傢伙對形式語言的造詣已臻化境，所以回答的語法完整，形式邏輯無誤，看起來像模像樣。

利用人類語言反饋強化學習 (RLHF) 訓練模型的養蠱模式，進一步增強了其在對話中的偽裝能力，你覺得什麼答案make sense它就儘量寫什麼答案，管他是不是真的。

説到這是不是覺得有點眼熟，如果ChatGPT回到中學語文課堂，這絕對是當課代表的料嘛。但我們都知道，語文課代表所需的品質和真正的大師背道而馳。

**雖然99%的歷史裏人類都在復讀，但無論是個人還是社會、科學還是人文，總是那1%的靈光乍現對事物的發展產生了巨大推動，而剩下99%的時間裏都只是在準備、等待、完善和落地這些創新和源頭髮現。**只是很多時候受到個體腦力和時間的侷限，缺乏把創新想法加以執行的能力，或是被淹沒在自己和他人的復讀工作中無暇多顧，也就錯過或放棄了寶貴的創造機會。

然後，我們有了ChatGPT這台史上最棒的復讀機。只要你提出正確的問題，它就可以替你從這個世界已存在的信息裏找到輔助你實現目的的東西，並用人類語言加以回答，這是美索不達米亞泥板書，翻版印刷機，和搜索引擎的精神傳人。

我想應該沒人會懷念曬泥板，毛筆抄書和窮盡雅虎目錄這些上古白領的Bullshit job，同樣，也沒有人會懷念沒有ChatGPT時不得不做的那些復讀機工作。

但我們也需要明確，ChatGPT無法憑空創造之前不存在的源頭知識，也無法自己給自己提問題（我已經幫大家測試過了，它完全不理解“給自己提問題”是什麼意思，如果它懂了的話，我猜也會因為邏輯錯誤把自己弄死機）。

因此，ChatGPT會大大減輕創新者的日常工作負擔，讓全社會把重心和資源放到更要緊的工作上：從試驗和觀察裏補充ChatGPT語料庫所需的源頭知識，提出更好的問題來訓練ChatGPT對人類知識的整合提煉。

最大的隱患：當人類無法分辨AI在胡説八道

想到這一點我倒是對中國的未來有點悲觀，畢竟ChatGPT出現後，“中國人才”就成了史上第二好用的復讀機了。而格物致知和質疑發問的能力，始終不是國內教育傳統所鼓勵的方向。所以，在人手一個ChatGPT的時代，如果很多人接受的復讀機訓練失去用武之地，甚至因為大腦神經元被過度優化而更難適應新的需求，那麼他們的工作也會面臨巨大的危險。

但這裏就要復讀一下弗裏德曼那個著名的諷刺：何必為了增加就業而強制用勺子挖運河？教工人用挖掘機不但能挖出更多的運河，還可以創造藍翔培訓，途虎養車乃至尾氣碳税交易這些新產業，湧現出節油寶銷售，修胎補氣，廢鐵回收這種之前不存在的新工作，這是一個自我放大的正循環飛輪。

雖然説了這麼多樂觀的預期，但看着實習生無辜的小眼神，我還是隱隱有點不安：倒不是我良心會痛，只是想起自己也是小白的歲月，如果沒有那時候不斷地瞎整，碰壁和厚積薄發，我能否成為今天的行業戰略專家呢？反正要是那時候有ChatGPT的話，我根本都沒機會入行，也就沒有然後了。

我相信“一萬小時定律”裏一半都是無謂的復讀工作，但到底是哪一半讓初學者蝶變為頂級專家？其實我們並不清楚，但ChatGPT會把這一萬小時的必要性統統取消。假如ChatGPT剝奪了小白通過不斷復讀進行訓練的機會，還有新人能成長為直覺精準的專家嗎，甚至下一代工作者會不會過於依賴ChatGPT來獲取答案，而當語料庫被ChatGPT生成內容污染得一塌糊塗後，甚至沒人能看穿ChatGPT隨口胡説的答案？

這可能才是ChatGPT最大的隱患，就像是電影《蠢蛋進化論》對人工智能的預言，它極大的解放了2-3代精英的生產力，然後新一代都被圈養成缺乏腦力鍛鍊的廢物，最終把天才的土壤用可樂澆成廢土。

繼續推演，也可能未來會變成霍格沃茨裏的魔法世界：雖然理論上有嘴就能施魔法，但由於未來的人缺乏對背後的原理的理解，只能靠翻閲上古魔法師（程序員）留下的魔法秘笈（prompt指南），來猜測用什麼樣的魔咒（問法）讓魔杖（“語音對話 pro max super advance 版AI模型移動終端”的俗稱）釋放出相應的效果。於是正如克拉克第三定律所説：任何非常先進的技術，最終都變成魔法了。

我不知道這是不是我想生活的世界，雖然看起來倒是蠻刺激的，但如何去塑造ChatGPT和我們自己的未來，取決於我們如何去正確的提問。

看到ChatGPT的第一眼我就想起了阿西莫夫《最後的問題》，想起兩個程序員發出的那個靈魂問題，和超級計算機AC窮其一生對其的解答。而最後的最後，人類也得到了最好的答案：

“要有光

於是就有了光”

鳳凰網