趙致真：“人類命運共同體”和現代科技隨想（6）_風聞

六、“人工智能”拉響的警報

2023年5月，總部位於舊金山的人工智能安全中心發佈了一份由350多位業內頂級專家和學者聯署的聲明。只有一句話：“減輕人工智能帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起，成為全球的優先事項。”

這是振聾發聵的醒世箴言，還是庸人自擾的危言聳聽？

早在2015年，科學泰斗霍金就在輪椅上發出過類似警告，當代科技巨頭比爾·蓋茨、埃隆·馬斯克都表示過相同的擔憂。

當我們對人工智能分為“樂觀派”和“擔憂派”時，爭論的焦點在於：人工智能會不會全面地“聰明過人”？如果會，我們還剩多少時間？它們會不會“取人類而代之”，統治地球而且毀滅人類。

關於第一個問題，霍金認為“沒有任何物理定律，阻止粒子比人腦中粒子的排列方式進行更高級的運算”。科學研究表明，生物神經元的最高工作頻率約200赫茲，而計算機的工作頻率可達數千兆赫茲；神經軸突傳輸信號的速度最高每秒120米，而計算機則以電和光的速度傳輸；人類智能受限於大腦的尺寸和結構，人工智能卻可以簡單地增加硬件來擴展。此外關於記憶的信息量、精確度、可靠性，知識的可複製、可編輯性等等，都是不可同日而語的。

“阿爾法狗”擊敗韓國圍棋大師李世石，這只是“弱人工智能”階段，因為除了下棋，“阿爾法狗”不能完成其他任務。

即將來臨的人工智能時代

2022年11月30日發佈的“Chat GPT”聊天機器人，已經能夠通過大量的數據訓練和模型自學，獲得不同領域的多種功能。從而進入了“通用人工智能”階段。

如果繼續勢如破竹地向前推進，就來到了“人工超級智能”的最後階段。幾乎在所有領域，包括科學創造和社會交往，“人工智能”都遠遠超過人類大腦的智慧。不僅能自我學習和改進，還能夠自我複製，並有獨立的情感和價值判斷。

看來人工智能發展的“三階段”是不可避免了。

那麼第二個問題，人類還剩多少時間做好準備呢？過去有人説幾十年，現在都普遍縮短了，認為不過20年或者更短。因為當第一台“人工超級智能”出現時，將是人類的最後一項發明創造，從此已經不用再“勞駕”人類為科學做出“微薄奉獻”了。人類作為“雷管”，已經觸發了“智能大爆炸”。在地球文明史上，生命的發生，智慧的出現，人工智能的興起，是具有質變意義的三個奇點。

人類的下一代將學會和人工智能和諧相處

人類能阻擋“人工智能”時代的來臨嗎？2023年3月29日，“生命未來研究所”起草了一封公開信，開放人工智能公司聯合創始人馬斯克，蘋果公司聯合創始人史蒂夫，谷歌副總裁辛頓等1000多位科學家和領軍人物，呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的系統至少6個月。這些“始作俑者”們顯然都被自己的“傑作”嚇住了，他們需要喘喘氣，回回神，並看看能不能利用這段時間，建立一個確保安全的發展框架。

我不打算進一步細説了，反正大家都有點手忙腳亂，六神無主。如果早早構建起“人類命運共同體”，我們就會主動和從容得多了。

事到如今，一切通過“政策干預”來限制人工智能發展，顯然都行不通。總會有“政策寬鬆”的地方，或明或暗的資金去乘機搶先，就像當年愛迪生的訴訟逼出了好萊塢那樣。何況在一個彼此對立的世界，各國恐怕只會加大投入，避免在人工智能競賽中落伍和出局吧。

再説，一切崇高的動機都是為了確保“人類”的安全。需要在人工智能的代碼中，編入人類的“道德價值觀”。而當今“我們”人類有相同的道德價值觀嗎？當“你們”西方人擔心人工智能“操縱大選”時，“他們”巴勒斯坦人可能最擔心人工智能更精準地炸燬醫院和難民營。2021年，當聯合國一片苦心，希望通過一項《禁止殺手機器人條約》，卻因軍事大國反對而付之東流。顯而易見，如果沒有“人類命運共同體”的共識和共情，這個世界上許多事都是辦不成的。

“人類命運共同體”和人工智能時代的光明前景

可敬的聯合國並非無所作為，據悉最近又倡議各成員國簽署一項《仁慈通用人工智能條約》，明確規定“只允許利他主義的人工超級智能”（only altruistic Artificial Superintelligences）。公開拒絕“自私的基因”了。但這種微弱的吶喊，如何能令行禁止呢？

無論我們怎樣費盡心機，人工智能超越人類的那天一定會到來。可以把他們想象成外星人，正乘坐宇宙飛船趕往地球。我們已經接到他們的電話説，將於20年後抵達。剩下的事，就是如何舉行歡迎儀式了。

至於“人工超級智能”會不會“背叛人類”和接管地球，這是科幻故事的領域了。儘管辛頓説：“沒有一個好的記錄表明，低智能的東西能控制高智能的東西”。但回望人工智能的歷史，不是從“弱肉強食”的自然選擇中產生的。我倒寧願相信，他們消化吸收了人類所有的知識並深入研究後，會更客觀公正地發現真理，並勸誡“主人”更愛自己的同胞，並擺正“地球長子”的位置，善待這顆行星上一路走來的萬物生靈。

至於未來如何與“人工超級智能”打交道，那是你們的全新課題，是未來“人類命運共同體”的時代課題了。但從勢頭和格局，“人工超級智能”大概不屑去爭奪“搖籃裏的資源”。他們的橫空出世，也許更有利於“地球文明”迅速晉升為“三級文明”，去實現大自然的終極目標：讓宇宙充滿智慧，讓智慧充滿宇宙！

作者簡介

趙致真，男，1943年生，1967年畢業於武漢大學中文系，首批國務院政府津貼專家。1985至2003年任武漢電視台台長，曾任中國科技新聞學會副會長、中國科教影視協會副會長、中國作家協會會員、武漢市科教影視協會理事長、中央電視台大型科教電視欄目“科技之光”主編，著有《播火錄》（北京出版社，2019年6月）。