林治波:警惕人工智能的異化
作者:林治波
從無人駕駛汽車到電腦棋手戰勝人類頂尖選手,人們在震驚之餘,開始議論:人工智能到底會發展到什麼程度?
筆者認為,人工智能對人類的近期影響是大量取代簡單、機械性重複勞動的崗位;中期影響是部分取代人類在腦力方面的機械性重複勞動;遠期則難以預測,因為這在很大程度上取決於人類是否有節制地發展人工智能。
異化,是人類社會始終存在的規律性現象。比如,官員作為羣眾的服務者而存在,但久而久之一些服務者竟變成官老爺;後勤部門是為服務業務人員而設置的,但結果往往是後勤部門自身的地位高於業務人員,甚至會侵蝕業務人員的權益。
科技也是如此。且不説壞人掌握科技而導致的種種惡果,即便是好人運用科技也未必都是好結果,工業革命以來自然環境的大規模破壞、物種的加速滅絕、人類自身本能的退化、各種添加劑對人類健康的損害以及人類對電子遊戲的沉迷等等,就是和科學技術的廣泛應用密切相關的。問題不在技術本身,而在於人類的道德出了問題,以致把科技用錯了方向。
人工智能是科學技術中最先進的部分,同時存在着造福與危害人類的可能性,關鍵在於實行怎樣的生產關係:在進步的生產關係之下,先進科技的推廣將普惠多數人;反之,則專惠於極少數大資本家。科技本身不能為自己確定方向,人類必須以進步的人文精神和社會制度規範並駕馭科技發展,才能讓科技最大限度地有益於人類和自然。
現在的機器人,絕大部分只能從事簡單的機械性勞動,即便是戰勝人類頂尖圍棋高手的“大師”,也只是能夠替代人類腦力中的機械邏輯部分,並無能動的主觀意志、思維能力和自我完善能力,更談不上審美、道德與情感。
無論將來的人工智能能夠進展到哪一步,其發展的限度應當是——人類能夠控制它,而不是被它所控制。但做到這一點並不容易。因為,人性中的邪惡、僥倖、好奇,人與人、企業與企業、國家與國家之間的激烈競爭,很容易導致人工智能的研發犬牙交錯,失去控制。
針對這種危險性,前不久,亞馬遜、臉譜、谷歌、IBM 和微軟等五家公司聯合發起“AI 夥伴關係”,旨在通過成立聯合組織來制定基本規則。希望更多政府、頂級科研機構以及聯合國教科文組織也能在這方面發揮作用。(作者是人民日報甘肅分社社長兼蘭州大學新聞與傳播學院院長)