陳根：倫理與治理，人工智能時代下的困境與出路_風聞

文/陳根

目前，以智能化、網絡化、數字化為核心特徵的第四次工業革命正在來臨。人工智能技術作為數字資源與智能技術的集大成者，成為第四次工業革命中的聚焦點。

在大數據與成熟的機器算法的基礎之上，以人工智能技術為代表的新一代信息技術在市場應用的迭代中逐漸成熟並滲透到了政治、經濟、社會等各個領域，在其加持下出現了智能製造、物聯網、機器學習等一大批先導產業。

而2020年的過去半年，在全球抗疫的背景下，人工智能在醫療、城市治理、工業、非接觸服務等領域快速響應。它從“雲端”落地，在疫情之中出演關鍵角色，提高了抗疫的整體效率。人工智能與其他產業前所未有的緊密結合，再一次驗證了人工智能作為新一輪科技革命和產業變革的重要驅動力量對社會的真正價值。

**事實上，人工智能技術最大的特點就在於，它不僅僅是互聯網領域的一次變革，也不屬於某一特定行業的顛覆性技術，而是作為一項通用技術成為支撐整個產業結構和經濟生態變遷的重要工具之一。**它的能量可以投射在幾乎所有行業領域中，促進產業形式轉換，為全球經濟增長和發展提供新的動能。

自古及今，從來沒有哪項技術能夠像人工智能一樣引發人類無限的暢想，而在利好人類的同時，人工智能也成為了一個國際性的科學爭議熱題。人工智能技術的顛覆性讓我們也不得不考慮其背後潛藏的巨大危險，早在2016年11月世界經濟論壇編纂的《全球風險報告》列出的12項亟需妥善治理的新興科技中，人工智能與機器人技術就名列榜首。

時下，智能技術在全球生產鏈中的賦能已經開始逐漸擴散到社會生活和世界政治領域中。人工智能的發展為全球化進程和國際社會帶來了新的問題和挑戰，對人工智能技術進行有效的治理已成為現實境況的迫切要求。

為機器立心，為智能立命

由於人工智能技術不是一項單一技術，其涵蓋面及其廣泛。而“智能”二字所代表的意義又幾乎可以代替所有的人類活動，即使是僅僅停留在人工層面的智能技術，人工智能可以做的事情也大大超過人們的想象。

事實上，人工智已經覆蓋了我們生活的方方面面。從垃圾郵件過濾器到叫車軟件；日常打開的新聞是人工智能做出的算法推薦；網上購物，首頁上顯示的是人工智能推薦的用户最有可能感興趣、最有可能購買的商品。人工智能對人類生活的影響從操作越來越簡化的自動駕駛交通工具到日常生活中的面部識別上下班打卡制度等等。這些影響有的讓人們深有所感，有的則悄無聲息浸潤在社會運轉的瑣碎日常中。當然，在輔助社會發展更加超前與方便的同時，人工智能也埋下了一些隱憂。

**總體而言，人工智能的治理進程中的治理客體可以分為兩個部分：**一是對技術本身的治理；一是對衍生問題的規範治理。

對於人工智能技術本身來説，技術的發展使得機器智能的邊界在不斷擴展。智能機器人領域的研究已經持續了四五十年，不只是原始的工業機器人，服務機器人也有30多年的研究歷史。這些研究大大增強了機器的運行能力，使機器可以替代人類自己進行活動，甚至某些能力已經超越了人類。目前，這些技術已經大量投入使用。

近五六年來，機器學習的算法快速發展。儘管距離機器完全理解“發生了什麼”還有很長一段路要走，但隨着更好、更便宜的硬件和傳感器出現以及設備之間實現無線低延遲互聯，還有源源不斷的數據輸入，機器的感知、理解和聯網能力將會有更廣闊的發展空間。

相比於基本元件運算速度緩慢、結構編碼存在大量不可修改原始本能、後天自塑能力有限的人類智能來説，人工智能雖然尚處於蹣跚學步的發展初期，但未來的發展潛力卻遠遠大於人類。**幾乎可以確定的是，機器智能未來必將超越人類智能。儘管無法確定其會在何時發生，也沒有像奇點理論那樣給出一個確切的時間點，但毫無疑問，**這個趨勢一定是存在的。

而基於此的人工智能技術治理，就需要人類先跳出科技本身，從人文的角度先為機器立心。其中，就包括相關領域的科學家在對人工智能技術的開發和應用時的價值取向以及道德觀念培養。

**此外，對於一項新生技術，其本身是沒有攻擊性的，造成危害的往往是對這種技術的使用，****人工智能也是如此。**在過去的數百年裏，人類學會了使用機械能，學會了用電，學會了製造各種機械，學會了製造飛機、汽車。在過去的數十年裏，人類也學會了計算機、互聯網、雲計算、人工智能和5G通信技術。

這些都是可以利用的工具，包括運用雲端的智能擴展信息和知識搜索的廣度、加深推理的深度、幫助我們做非常複雜的運算。而如何更好地掌握和利用這些技術，利用人工智能技術本身來幫助人類最大程度地發揮智能潛力，便是治理人工智能技術本身的破題關鍵所在。

當人工智能走入“倫理真空”地帶

除了對於人工智能技術的危機治理，我們無法迴避的是對人工智能衍生問題的規範治理。

首先，就業問題是人工智能治理領域中最接近民生保障，也是****最需要解決的問題。由於資本的逐利性，在科學技術是第一生產力的時代，人工智能所表現出的巨大的生產力必然吸引資本蜂擁而至，而數字經濟的發展將進一步促進企業的自動化和數字化轉型。

於是**，自動化將縮小社會的橫向分工，人工智能將實現生產的半自動化、全自動化，從而消除了生產對人類個體差異性的依賴**。隨着人工智能研發的深入，更加完善的功能使得人工智能在社會分工體系中越來越佔據主導地位。這就減弱了橫向分工之間的差距，普通勞動者之間技術的差異性將會逐漸喪失。

當人工智能對勞動者的代替性越來越強時，普通勞動者的生存狀態並不會得到很大的改善。相反，隨着勞動力對技術依賴性的增加以及由此造成的勞動力本身在分工體系中競爭力的下降，勞動者的生存狀態會進一步的惡化。

除了縮小社會的橫向分工**，人工智能技術的壟斷將會阻隔社會的縱向分工**。在信息時代，基於大數據以及計算機應用的自動化生產成為了拉動經濟增長的主要驅動力。資本追逐利潤的本質使得大量資金都流入了那些掌握前沿科技的企業和人才手裏，這樣就會造成一些常規性的工作被代替，最終將會造成的整個社會失業率的增加。

另一方面，一些本來就處於社會分工等級上層、掌握前沿科技的企業，由於資本的大量流入使得這些企業的地位更加穩固，甚至通過新的技術壟斷切斷了其他企業以及勞動者突破社會分工的機會，進而將不平等的社會分工等級秩序的牢籠扎得更緊。倘若社會分工頂層和底層間出現了****不可逾越的斷裂帶，這將使得社會兩極分化更加嚴重。

其次，由於人工智能需要依賴大量的數據，在人工智能的不斷研究開發與應用中，也就存在許多數據管理的難題。當海量信息數據唾手可得，個體位置信息、關注內容、行程安排等極易被獲取分析。個體敏感信息、私密內容就可能“無死角”暴露在大眾視線。大數據信息動態監控，使個體用户操作“痕跡”被收集挖掘成為可能。有了人工智能助力，不僅能瞭解你是“誰”，更能預測你將成為“誰”。

儘管大數據等智能化手段在開展羣體分類時能提供諸多便捷，但也使得許多傳統意義上並非隱私的信息變成了個體敏感信息，這就增加了人們隱私受到侵害的可能性和倫理風險概率。這些數據算法的過度依賴或應用範圍的盲目擴大，既在社會現實層面上為不法分子提供了隨意竊取、濫用信息資源的機會，又在道德層面上引發了倫理道德風險。

**最後，人工智能技術的發展對國際關係提出了挑戰。**從世界歷史的發展過程中我們可以得出經驗，每一輪新的世界大戰和工業革命都會迅速地重構社會秩序和國際格局。以人工智能技術為代表的第四次技術革命是科技的集大成者，因此其所造成的影響更是顛覆性的。

在經濟方面，2018年9月，麥肯錫全球研究所針對人工智能對世界經濟的影響做的專題報告顯示：到2030年，人工智能可能為全球額外貢獻13萬億美元的GDP增長，平均每年推動GDP增長約1.2億。這意味着，人工智能對國家經濟的推動是巨大的。而****在這一輪新的工業革命浪潮中，誰掌握了人工智能技術的主要力量，誰就有可能以壟斷性的地位佔據未來數年內全球經濟的命脈。

在軍事方面，區別於其他類型的科技，人工智能技術和核武器一樣，屬於軍民兩用型科技。世界各國已經認識到人工智能是未來國家之間競爭的關鍵賽場，紛紛開始在軍事領域加大人工智能戰略部署，尤其是在自主武器方面的研發力度，只為了能夠佔領新一輪科技革命的歷史高點。當人工智能技術賦予國家更多政治和軍事力量時**，也加劇了國際社會的安全困境****，**這也給人工智能的治理帶來了全球性的挑戰。

事實上，我們已經走進了一個現代性“倫理真空”的特殊地帶**，這個真空正是由傳統倫理學的缺失與現代自然科學的發展帶來****的**。由於人工智能發展所帶來的全世界範圍內人類行為方式、思維方式的變化是加速、不可逆轉的，而傳統倫理學的發展卻是緩慢的、滯後的，這就使現代社會出現了巨大的倫理真空地帶。

因此，在大力發展人工智能的同時，必須高度重視可能出現的社會風險和倫理挑戰。加強人工智能倫理學研究，揭示人工智能發展面臨的倫理難題，有效治理人工智能，發揮人工智能的真正價值是未來值得關注的問題。