對於人工智能（AI）的發展必須警惕和限制_風聞

現在以CHATGPT為代表的生成式人工智能AI非常熱。但是我覺得必須嚴密限制人工智能（ai）的研發和發展的範圍，要警惕其對人類可能造成的危害。

我在知乎上查詢關於人工智能是否能產生自我意識的文章，看到專家説：人工智能一定會產生自我意識，還有説：人類對於自我意識產生的知識是非常淺薄的。再結合看到用圖靈測試測試CHATGPT的結果居然是，無法判斷屏幕後另一端到底是人還是電腦（圖靈測試是指測試人工智能具有人類智慧的能力）。

這些令我很吃驚，畢竟就是在電影裏電腦反抗人類的描寫也是電腦突然有了自我意識，可人類現在居然連人工智能是否有自我意識都無法確定。要知道現在每分鐘每秒鐘都有成千上萬的知識和數據被錄入CHATGPT的電腦，一旦它有了自我意識，其後果不堪設想。

通常稱某人在做危險的動作是説，在作死的邊界上反覆試探。可現在人類在人工智能上的做法是，連危險的邊界都不知道在哪裏，就在猛力推進。這就如同嬰兒在把玩着一把槍。

我曾經對技術的發展持開放態度，當時我認為技術不會對人類發展造成危害，不會讓人類被淘汰，只會創造出更多的崗位，歷史上就是這樣的，儘管技術不斷在發展，但是就業人口是在不斷增加的，就如同汽車取代馬車一樣，儘管沒了馬車伕和養馬的工作，可創造出更多的如：汽車司機，汽車修理工，汽車設計和製造等的崗位，沒必要對技術的研發進行限制，當然可以對技術的應用進行一定的限制。

可當我看到CHATGPT可以寫作和繪畫的情況，我認為原來的想法是有漏洞的，歷史上人類之前開發的技術都是功能性的技術，它所對人類發展的促進的史實不能代表創造型人工智能可能在未來對人類造成的影響。

原來我只考慮到功能性技術的發展，對於創造型人工智能技術的發展沒有考慮到，我曾經一直認為只有人才能勝任創造性工作，電腦或者説人工智能是做不到創造性工作的，現在CHATGPT的發展動搖了我這方面的看法。

所以我重新更正一下我的想法，功能性技術包括功能性人工智能發展還是可以允許的，比如：像視覺識別、語音識別等是可以的，可創造性的人工智能的研發，比如聊天，繪畫，寫作等應該被禁止，這裏要區分，比如：寫作時的提詞功能，繪畫裏的修圖功能等都應該算功能性的。

創造性的人工智能的研發必須在人類對自我意識的產生有充分的瞭解後，在對產生自我意識的幾個關鍵因素做出抽離和限制之後，才可以開展。

有人會覺得對於創造性人工智能的發展，會讓人類的生活和工作更加輕鬆，放棄它就會讓人類的生活變差。不要搞本末倒置了，人類使用奴僕、機器和電腦等，是為了讓它們幫助人類，而不是為了讓它們有可能完全取代人類，哪怕只有一絲一毫的可能性都不行，它們必須是隻能依附於人類而存在。

人類的文明史告訴我們，對奴僕的使用是有禁忌的，作為主人不能太懶了，不能什麼事情都交給奴僕做，要掌握主人的地位的話，有些事情就必須親力親為，同時這些事一般對奴僕來説也是禁區。古代斯巴達就規定黑勞士（奴隸）不得觸碰武器，如果發現某個黑勞士握着武器，那麼就得處死他。

我認為機器、電腦和人工智能等只能是人類的工具，它甚至不該是奴僕，工具是不能有思想的。

創造性的工作必須只能由人類來做，人工智能只能做功能性的輔助性的工作，這個在相當長的時間裏應該是鐵律。既然生物研發中有倫理審查，那麼對於人工智能方面也應該有類似的審查，不通過審查就不應該進行這方面的研究。

馬斯克真的是個睿智的人，我記得好像最早就是他對人工智能的發展提出警告，現在又提出開發人體嵌入芯片。我想禁止某些人工智能的研發是屬於被動防禦，而開發人體嵌入式芯片屬於與機器進行競爭的應對之策，畢竟基於生物的進化和發展還是有極限的。

但這樣仍有問題，首先如果把輔助人腦的電腦限定只能裝在人體內的話，即只是嵌入式芯片的話，就同樣的技術水平，可以在體外存在的電腦的體積可以遠比只能裝在人體內的嵌入式電腦要大得多，這樣的條件下競爭，人天然處於吃虧的狀態。而如果把輔助人腦的電腦允許是存在於人體以外的話，那麼怎麼保證這個電腦不會影響、干預甚至是危害到人體呢？比如：你腦子裏冒出一個想法，你怎麼保證這個想法是你自己想的，而不是其他東西給你的呢？