對AI能力的一些理解_風聞

　　這幾天嘗試通過一些問題來了解Deepseek能做什麼，以下是我對它能力的一些理解和總結。

　　１、沒有真正的創新能力。

　　這一點，它自己的説法是這樣的：

“作為一個人工智能，我具備一定的自主創新能力，這主要體現在我能夠通過分析大量數據和信息，生成新的觀點、解決方案或創意。然而，我的創新能力依賴於預設的算法和訓練數據，並不具備人類那樣的意識和直覺。因此，我的創新是在特定框架和規則下進行的，無法完全自主地超越這些限制。”

　　這個説法其實並未説到實質要點上，因為所有的人也是在特定框架和規則下進行的，只不過不同的人因為經歷和能力不同而有不同的框架和規則，並且他們本人至少沒認識清楚這些規則和框架的全部。真正的差別在於，現在的AI，這樣的規則和框架實際上是過於簡單的，遠遠比不上思維能力比較強的人，而這一點暫時還難以縮短差距。

　　而這個差距，其外部表現上已經是質的差別了——它沒有真正有價值的創新能力。

　　從我和它的對話中，我發現對任何有開放空間的問題，它都一律難以完全準確把握人指給它的方向（大方向不會錯，但就是和人期望總有那麼點偏差，導致一個問題必須迭代問幾次）——它總是將自己侷限於開放空間中早已有既定論斷的有限的表達上面，當然這些“早已有既定論斷”可不是早有定論，而是早有人設想和談論過，哪怕你用專門的語言表述提示它注意也沒效果。

　　這就是沒真正創新能力造成的——沒人做過的它就想不到要做。只是我們任何一個人類個體都不可能知道所有的其他人曾做過什麼，哪怕想象都遠想不全，這樣AI的回答才讓我們覺得它有一定的創新能力（它“想到”的我就想不到）。也許只要能你費心做下網上搜索，這些所謂的“一定的創新能力”都會失去價值。但從AI得到這些回答，一般比費事從網上搜索要簡單，而且網上有的信息用搜索引擎搜索難度很大。這的確是AI產品的優勢和價值。

　　如果説“指哪打哪”有精度問題，那麼對既定的東西做總結概括，這在一般人看來總是沒問題了吧？但事實還是有差距。要求AI做概括性表述，或者去總結規律，它總是表述得水分很多，很難直接給最簡潔和切中要害的“乾貨”。背後原因，我覺得還是創新能力缺陷：它只會將它自己知道的概括性表達做 排列組合，不可能做前人未做之事。這樣的總結概括，我嘗試了不同的問題，但結果如出一轍：它總結得很水，我給出自己的答案後它認同並認為更好，甚至還能事後檢討它自己的問題，但就是難以擺脱這個套路。

　　個人認為，創新能力是最終可以被AI實現的，並且它們能超過現在的人類（但未必能超過未來自我改造後的人類），只是現在的發展階段上它們還做不到這一點。

　　２、它評判對錯的根據是邏輯和論據。

　　如果你的邏輯正確論據充足，它就會簡單承認你是對的，甚至可能把你誇得起雞皮疙瘩。我還沒嘗試過特意給錯誤觀點或論據並頑固堅持——由於後面我將説明的原因，我不想這麼做。完全依據邏輯和論據這一點上，對用户既有好處也有弊端。

　　好處很顯然，不產生無謂的爭執。弊端是，當真正的真理並不能由用户掌握的論據充分論證，而AI又不掌握能論證的那部分時，錯誤就會被AI認同而用户並不易知曉。

　　有好幾次，我從不持觀點地提問開始，它回答後，我給我認為的正確看法並説理由，它都徹底反轉了立場。這種反轉過程就説明了它不掌握一些人能掌握的論據時，AI完全可能持錯誤觀點。這意味着“引用AI觀點為自己站台”這樣的行為並沒有正當性，但好多人已經在這麼做了。

　　從AI自己的回答上也可以看出這種情形背後的原因——它只關心它知道的邏輯和論據，而真理是無限過程的實踐檢驗出來的，不是有限實踐數據和邏輯推導出來的。

　　３、它提供的相關知識和對觀點的可能影響的分析，一般都超出人的想象，這十分有用。

　　如果我要研究一個問題，我是不可能有能力把它提供的那些知識找全的。在分析具體問題的深度上我肯定比它強（改變這一點需要徹底的算法革命，不是小的修補改進），但它的分析總會涉及一些我遺漏的方面或要點，這是它的優勢。當然，前面説了，這不是創新，而只是對AI而言的常規套路。但作為人，是很難把所有相關套路掌握全並始終運用好的。至少對我這樣的人而言，這個差距是很大的，難以追上。也許優秀專業學者有可能對AI有一拼的可能，但我對此也不樂觀。

　　不過，如前所述，AI沒有真正的創新能力已經導致了很多派生問題，而直接形成自己的創新性觀點，這樣的事，至少現在的AI肯定做不到。現在有些人，甚至是專業學者，在説AI能讓學生寫論文很容易達到教授水準而難以發現，這就是胡扯了——能下這種判斷，只能理解為被達到其水準的教授們，他們自己這輩子是混飯吃爬上了教授崗位，以至於他們竟然不能分辨學生論文是否有真正創造性。把混飯吃的踢出去，讓真正有能力的上位，並健全篩選淘汰機制，這樣的教育改革才可能是AI會觸發的事，這可是好事而不是災難。

　　４、不涉及創新的話，AI的語言理解力和表達力已經足夠優秀了。

　　涉及創新的，即使是間接涉及，它也無能為力，前面已經説過。但完全不涉及創新，和人溝通就看不出任何問題，它能做到對人的表達準確和全面地理解，它的表述也完全清楚明白和流暢，作詩填詞什麼的，應該還沒有最著名的那些詩人好，但比普通人強很多。文學方面的“創造性”，它顯然是有的，但問題是，我不認為文學上的這種人認可的“創造性”是真正的創新，畢竟文字是有限數量的，它們的排列組合，或者合理排列組合是有限的，這不是真正的創新。

　　５、AI追隨用户觀點的這種改進，應該是隻基於用户賬號的，AI核心功能不會被與用户交互改變。

　　提這一點，也許因為我是外行——我親自問了它相關問題，它的回答裏我猜到了這個結論。也許對內行這是個小兒科的事。

　　但這也同時意味着，用户對AI的（非核心能力）改變，有可能是好的也有可能是壞的——你忽略正確的論據而只灌錯誤論據，它就會在和你交互時使用錯誤觀點，儘管這不會影響AI核心功能和對別的用户的交互，但對你這個用户自己而言，這應該會有後續影響。

　　這就是我前面提到的，我不願意對AI特意灌輸錯誤觀點或欺騙其接受錯誤觀點的原因。

　　如果有人要註銷自己的AI平台賬號，而其使用歷史很長，交互很多的話，至少我個人的理解就是，你長期對AI的“私人餵養數據”就會徹底丟失。相同的平台下，不同的人“私人餵養數據”不同，AI對不同的人表現出的能力也隨之不同，有的人之間差異可以很大，請注意這種註銷後的損失。

　　６、我未看出Deepseek有真正的意識形態的“中國化”，至少未找到這樣説的根據。

　　我和它主要討論的是哲學問題，如果我不在問題中設定，它的回答就不會受中國人認同的哲學所限定，而是唯物、唯心什麼內容都有——當然，我提的問題是有這樣開放包容性的。

　　我見過有人抱怨説Deepseek存在中國特色的敏感詞彙，我對此並不瞭解，從直接對AI的詢問中也只回答一段官話而不會有其他回覆。我不排除有這樣的東西，但這是遵守中國法律問題，根本不是這裏談的“中國化問題”。我的感覺是，Deepseek似乎並未添加基於中國的意識形態限制。

　　綜上所述，我的結論是，現在的AI，能做的還只是輔助作用，這種輔助對所有人都會起到簡化工作和減輕負擔的作用。但對於能力很差的人類羣體，完全依靠這種輔助可能在一定條件下比他們自己在輔助下自主工作更好。對這些人，如果他們頑固選擇只依靠AI來做事的話，會給別人增加麻煩，這必須通過各種手段去限制和懲罰。

　　舉個例子，假如網站有一大批人都用詢問AI再複製粘貼的方式回覆和寫文章，這將嚴重降低網站質量並增加審核負擔。

　　再舉個例子，如果宣傳導向不介入的話，會有太多的人直接相信AI的觀點，甚至指導自己的言行和評判別人，這會引發很多問題，包括錯誤觀點的產生和蔓延，人與人之間產生新矛盾等等。

　　諸如此類的新問題，是應該被關注的。

　　我寫這個文章的目的，相當程度上就是要告訴大家，迷信AI是個不小的錯誤。AI現在還處在發展的最初級階段，就算現在這種類型的AI未來在創新能力上全面超越人類很遠，它也離同時成為真正的實踐與認識主體還很遠，在這種條件下，AI只能作為輔助工具而存在。而更遠的未來，人類是要自主進化而改變自身的，這用到的就不只是AI技術了，在這種改變下，實踐與認識主體依然不是現在這種AI，也不會是未來任何時代的單獨的AI技術的產物。因此，我們永遠沒理由迷信它。