AI編瞎話和文科危機_風聞
范勇鹏-复旦大学中国研究院副院长-复旦大学中国研究院副院长1分钟前
大語言模型人工智能會一本正經地編瞎話,其實人文社會科學領域也會,早就屢見不鮮了。
背後的道理可能也是一樣的。據我的外行理解(如果不對請指正),大語言模式並不懂得語言的真實含義,它應該是靠一個詞語和其他詞語的關係來理解它,其他詞語又靠與更多詞語的關係來理解,最後建立起一個始於詞語終於詞語的閉環。它可以説得口若懸河花團錦簇,但説出的只是一種形式語言。
那麼看看我們人文社科教育,從學習第一個概念開始,就是用其他的詞語來解釋它。然後用學到的概念來學習理論。為了證明這個理論,就要引用其他的文獻,那些文獻又靠更多的文獻來證明。
這本身不一定有問題,因為隨着人類知識的積累,絕大多數知識都要靠間接獲得。只要知識的來源的真實的,同時在在這個過程中,能夠不斷地接受現實的檢驗和修正。
但事實上,除了少數領域和少數學者外,多數人的學習和研究過程就是這樣從詞語到詞語,從文獻到文獻,和大語言模型異曲同工,本質上,都類似於一種神學。到了工作中,學習的理論不僅用不上,更大可能還會壞事。那些沒有參加實踐工作,留在大學人文社科體系中的人,就又加入到這個大語言模型訓練之中,繼續訓練自己訓練別人。
當然會有各種動力驅使人們跳出語言的閉環,比如個人求索、調查研究、社會實踐、接觸羣眾、解決實際問題等。但是文科評價體系又形成了一個巨大的磁場,迫使多數人不得不迴歸到閉環之中,繼續空對空式的閉門造車。
原因很簡單,文科評價體系仍是以發表和項目為核心,即使不考慮傳統和文化的因素,以及既得權力和利益的因素,單純從學科體系的這種大語言模型性質看,那些和既有文獻關係更密切的文獻會更容易獲得發表,那些更好嵌入既有文獻結構的研究會更容易獲得項目支持。發表論文和申請項目都會要求寫文獻綜述、研究現狀等,雖有必要,但也要看到其同化機制的功能。
相反,從實踐中來的新知識,只有突破更大阻力才能夠進入這個閉環;顛覆舊知識或理論範式的研究會受到系統性的排斥;以實踐為導向的學術活動被學科共同體有意忽視或貶低。
最近讀了幾篇“A刊”論文,又印證了這個看法。都是引用大量文獻,繁瑣論證,最後卻是了無新意的平庸結論。最近也看了一些所謂權威學者談歷史問題、世界事務的對話和演講,發現他們對現實認知低得令人髮指。學術圈人在文獻底子和理論功夫上一般都沒的説,講話也能旁徵博引自圓其説,但是最大問題是作為他們思維起點的那些詞語往往是經不起推敲的,論起對世界的認識水平,體制內學者很多人已經不如自媒體博主,這算是我們這個時代的一個奇觀了,很令人擔憂。
當然,人文社科也和人工智能一樣,一本正經的瞎話編多了,用户就會警惕,失去信任。現在全世界關於文科的爭論,一個重要原因恐怕就是因為文科產生的成果過於違反常識、脱離實際。中國不少文科的主流內容已經落後時代幾十年了。
真正有用、有魅力的東西,會有需求的。否則,你可以pua別人一個時期,但是不可能讓別人長期接受明顯不合理的觀念。所以美國政府要關教育部、砍文科。中國的政策部門、企業和老百姓,感覺也越來越不在乎象牙塔裏的聲音了。這反過來又加劇了文科學術和教育的閉環。
這樣日益孤立、脱離現實下去,就一定會發生變革。大環境我們影響不了,但是作為個人,學習文科的學生和研究文科的老師,現在能做的可能就是對自己專業裏的一切知識、理論和範式都要畫個問號,儘量都能對照歷史和現實檢討一番,做真學問,避免語言和文獻的無效增生,為應對必然到來的變革做好準備。