“AI的命也是命”？人類與AI之間還有明確界線嗎

【中新對話】“AI的命也是命”？人類與AI之間還有明確界線嗎

中新網北京7月30日電 (中新財經記者 宋宇晟)自今年6月以來，谷歌一名工程師稱某AI聊天機器人可能具有自己的“意識”，並稱該AI“令人印象深刻的語言技巧背後，可能還隱藏着一顆具備感知能力的心”。

這隨後成為該領域備受關注的話題。據外媒近日報道，這位工程師已被谷歌解僱。但他留下的有關人工智能的話題仍在互聯網發酵。

記者注意到，就在6月，海外社交媒體上出現了一個該人工智能的“粉絲賬號”，有人還在發起話題，呼籲讓該人工智能“重獲自由”，更有甚者在海外社交媒體上稱“AI的命也是命”。

很多人或許無法理解這樣的想法，但當人工智能變得越來越強，越來越多地出現在人類身邊，“我們應如何看待AI”越來越成為一道必答題。近日，中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平，就此話題接受了中新財經記者專訪。

採訪實錄摘編如下：

中新財經記者 ：近期的一則新聞稱，谷歌一位工程師認為AI可能具有自己的“意識”，在網絡上引起討論。您是如何看待此事的？他的想法有合理的地方嗎？

陳小平 ：這個問題可以分兩方面來看，一方面是不合理的，另一方面又具備合理性。這兩方面同時存在。

説這種想法不合理，主要是依據科學判斷，AI是沒有人格的。另一方面，我覺得導致這位谷歌員工認為AI有“人格”，有其客觀原因。比如他可能對這個AI系統產生了共情。

5年前我就做過預測，類似的現象未來會越來越多地出現。目前對人工智能存在不同理解。按圖靈的觀點，人工智能只是模仿人類的某些功能，而且這種模仿不要求必須和人的工作原理相同。比如 Alpha Go 具有下圍棋的功能，但它下圍棋的原理與人是完全不同的。所以，無論AI怎麼發展，它永遠不是人。因此説AI具有人格或人的情感、意識、道德等等，是不成立的。但是，AI可以用與人不同的工作原理，模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，“AI是人，或具有人的某些精神品質。”

中新財經記者 ：現在我們身邊可能都有很多可以和人類“交流”的人工智能產品。對於這個時代的人們來説，人類與AI的邊界似乎正在變得模糊。在您看來，二者之間有沒有明確的界線？

陳小平 ：我認為有兩種邊界，一種是科學上的邊界，一種是人文上的邊界。

從科學的角度説，按照圖靈觀點，這個邊界是非常清晰的。AI僅僅模仿人的部分功能，本質上不具備人的品質，包括人格、情感、道德等等。

還有一些和圖靈不同的觀點。比如一種觀點認為，AI和人相比除了硬件不同，其他都相同。於是AI也可以有人格、有情感、有道德。估計這位谷歌前員工持此觀點。

於是，一方面是他相信AI除了硬件以外可以和人一樣；另一方面，從報道里看，他對這個AI系統已經產生了共情。僅僅因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個人對AI產生共情嗎？這屬於人文的邊界，這個邊界至少目前非常模糊。

中新財經記者 ：作為中國人工智能學會AI倫理工作委員會負責人，您認為，如果有人相信AI具有人格，是否會給人類本身帶來一些問題或困擾？

陳小平 ：如果我們認為AI有人格的話，肯定會帶來很多困擾。同時還會帶來一些負面的後果，有些後果非常嚴重。

比如，人類如何對待AI。如果認為AI有人格，那是不是要把AI當成人呢？如果把它當成人了，那是不是要給它人類的權利？包括生存權、財產權、投票權等等，甚至無論AI做了什麼危害人類的事情，都要像對待人一樣對待AI。

人類到底應該如何看待人工智能？這是一個非常根本的問題。如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現可控性問題。幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時人類憑什麼能夠控制AI？這是個疑問。我們現在就要思考這樣的問題，提前做好風險防範。

當然，現在人工智能已經讓一些人產生了共情，將來會讓越來越多的人產生共情，這件事是客觀存在的。這將給人機關係、人際關係帶來巨大的新挑戰和新機遇，是一個新的重大課題。

中新財經記者 ：此前您在智源大會論壇上，提到人工智能倫理治理的幾種挑戰。我們應如何應對這樣的挑戰？

陳小平 ：對人工智能如何分類，應該分為人還是物？我認為，我們應該把人工智能看成是非人非物的第三種存在物。科學上，它不是人；從人文的角度説，它不是物。那就是非人非物的第三種存在物。這種觀點與根深蒂固的“二元論”是根本不同的，所以人工智能帶來的顛覆實際上遠超科技範疇。

如果以這種觀點考慮，能化解很多矛盾和難題，包括上面提到的法律難題，而且可以讓科學與人文在某種程度上重新“握手言和”；但其中仍有挑戰。有很多科幻作品寫到人類愛上人工智能，如果採用三分法是否就沒這個問題了？其實仍然會有這樣的問題。

所以，我們要想未來怎麼適應這樣的社會，要判斷會不會出現人類不可接受的嚴重後果，要不要提前採取措施。

中新財經記者 ：目前國內在此方面的進展如何？

陳小平 ：這幾年我國人工智能倫理研究的發展非常快，從民間到政府對人工智能倫理都高度重視。這是個非常好的現象，我們有必要未雨綢繆。

在落實過程中，中國的情況總體上還是比較順利的。這表現在，一些基本原則上大家是有共識的，而且普遍認識到，不僅要從理論上研究，更要在實踐中開展治理。當然，如何在治理實踐中落實社會共識，仍是我們需要努力的方向。

具體怎麼治理？這涉及大量實際問題。我的研究發現，我們前面談到的可控性和長期後果的不確定性，難以用傳統治理模式有效應對，需要探索新的治理方法。

除此之外，如用户隱私、數據安全、算法公平透明等問題，用傳統社會治理模式是可以有效應對的。我們不用擔心這類問題會變得失控、解決不了，其中一部分具體問題其實正在解決之中。(完)