AI不許變人，聽羅馬教廷説羅馬教廷關於AI的文件Antiqua et Nova_風聞

上個月梵蒂岡的天主教廷發了一個關於人類智能和人工智能的指導性文件《Antiqua et Nova》，其中明確了AI只是工具，發展和使用AI要確保人類至上，人工智能和人類智能是兩碼事等，總體上對AI是一種謹慎支持並警惕應用的態度。

這是目前羅馬教廷對AI的官方正式表態，甚至可能會在未來很長一段時間指導天主教信徒對AI的態度和行為。我最近在寫少前的同人，就在思考宗教對機器人好AI的態度和影響，個人認為如果想在自己的作品裏加入傳統宗教尤其是天主教和AI的關係衝突，完全可以將這個文件當做某種理論基礎或者起點，這裏就對其觀點進行簡單介紹分享個人理解。

先疊甲：本文沒有任何傳教意圖，本人並沒有學習過宗教、哲學和社會學的相關內容，英語也不好，這個文件也沒有中文版本及任何中文報道和研究文章，因此產生錯誤並遺漏某些重要信息，還請見諒。如果本文有對宗教和非宗教人士產生冒犯，我在這裏進行道歉，並推薦大家去看原文。

一、背景：

全文一共117段，探討了什麼是人類智能，人工智能為什麼不是人類智能，用AI模擬人為什麼是不道德的，研發和使用AI要注意什麼，AI崇拜的本質是什麼，並具體探討了在醫療、教育等領域中使用AI的注意事項，以及呼籲限制在戰爭中使用AI等。

這個文件是由羅馬教廷信理部與文化教育部聯合起草，教宗方濟各批准並出版。多説一句，信理部的前身就是著名的異端裁判所，經過幾次改革變成今天的信理部。主要負責是維護教義，保護基督教傳統不受異端教義的威脅，這個異端教義包括新興技術帶來的倫理問題。此外其職責也包括調查教內的嚴重罪行比如各種褻瀆以及戀童，以及歐洲的各種超自然顯靈現象。

二、人工智能不是智能

這份文件首先簡單介紹了什麼是人工智能，明確認為人工智能和人類智能是不一樣的，將人工智能稱為“智能”是一種錯誤表述，並認為無法用圖靈測試確認AI是否具有人類智能，因為這只是很片面的還原人類智力相關的反應。

為了得出這一結論，這個文件在智能的哲學和神學理解這一部分（ Intelligence in the Philosophical and Theological Tradition），從理性rationality、Embodiment（涉身性？具身性？看定義解釋好像都不太一樣）、關係性Relationality、與真理的關係、世界管家這幾個角度解釋了什麼是人類智能。具體邏輯是：

1、理性rationality

教廷認為理性rationality是人類智能的核心，包括對真理的直覺把握（intellect）和通過分析和論證來達到判斷的過程（reason）兩個部分。並且理性並不是簡單的某種思維模式，而是包括知道和理解，以及願意、愛、選擇、渴望等的集合。

2、Embodiment

從Embodiment的角度教廷認為人是靈魂和肉體的不可分割，人的靈魂不能脱離身體來認識世界。

3、關係性Relationality

並在關係性Relationality中教廷認為人的本質是社會人，天生具有和他人交流的能力，而人類智能在這種人際交流中發揮作用，人際關係最終走向自我奉獻和愛，沒了愛什麼都不是。（這裏涉及到基督教裏對奉獻和愛的論述，我不是學這個的説不明白）。

4、與真理的關係

教廷認為人類智能的最終目的是追求超越了人類智慧界限的真理，這種追求是人類的本性，最高表現是完全開放把自己託付給上帝，人就成了祂描述樣子。

5、管理世界

在這個文件中，教廷表述人是上帝創造出來管理世界的，人類利用智慧和技能讓世界符合上帝的創造，還有什麼榮耀啊，幫助心靈提升之類的。

6、總結

最終在總結性的論述中説明人類智能是人的一種能力，是關於人和現實互動，是涉及到精神、認知、身體和關係等集合。同時因為人的多樣性，這種互動也是以多種方式展開，不只是邏輯和語言。並且他們認為人類智能的核心要融入人的道德和精神生活，人類智能的意義在於追求真善美等等。（這部分建議看原文，我英文不好只模糊表述怕有偏差。）

經過這麼一大段對於人類智能的表述，羅馬教廷得出結論：

AI本質上只是侷限在邏輯-數學框架內運行，只是通過執行任務、實現目標或基於定量數據和計算邏輯做出決策，它的“學習”和人類智能在身體和心靈成長中的有機發展增長有根本的不同。

因此AI雖然可以模擬人類推理，但無法複製人類的道德洞察力、建立真實關係的能力，AI的模擬無法提供對人類在身體、情感、社會、道德和精神層面的完整理解。

AI只完成功能性任務，而不是人類智能那樣理解和參與現實的各個方面。

所以教廷認為人工智能不是人類智能的人工形式，只是人類智能的產物，人工智能裏的“智能”一詞是錯誤使用。

二、AI倫理

有了上面這一大段關於人類智能和AI的理論論述，這個文件通過非常大的篇幅討論AI倫理的問題，我這邊挑出幾個我個人比較關注的部分（只是我個人關注的，並非是原文件中重點表述的部分）。

1、人類至上

技術發展必須要為人類服務，反對技術至上效率至上。人必須要考慮AI可能帶來的積極或消極的後果，研究和使用AI時必須要確保尊重人類尊嚴並維護人類共同利益（天主教定義下的）。

2、人類監管與決策

在研究和使用AI的時候人是道德責任主體，必須對使用AI承擔責任，要有一個監管框架確保AI算法的可靠、安全、能夠處理異常，確保符合人類利益（天主教定義下的）並能保證透明、保護隱私和可以問責。

在AI輔助決策的時候人類應該具有最終決策權，不能過於依賴AI決策

3、AI擬人是不道德的

在前面的理論中，教廷認為人必須要和現實進行互動，AI不是人類智能，雖然可以模擬人類，但並不是完整和真實的，那麼AI擬人化就會阻礙人和現實的互動交流，因此在教育、互動、包括性領域把AI擬人是不道德的，而處於欺詐目的把AI擬人是嚴重違反道德。

雖然這一段在全文中只是很小的一部分論述，重要性遠不如其他內容，甚至沒有單獨的章節，但由於我比較關注科幻作品中機器人“變人”的部分，因此將這段單獨拿出來。

4、AI不能取代人類工作

這算是人類至上的另一種表述，一方面是擔心AI取代人類工作帶來的貧困，人異化為機器。另一方面是基督教認為工作是生活的意義的一部分，是通往增長、人類發展和個人成就的過程，AI取代人類工作會損害人類利益，AI應當促進人類勞動。

5、機器不應選擇奪走人類的生命

教廷認為需要限制AI武器化，自主武器容易讓戰爭更可行，會超出人類監督的範圍，造成災難性後果。呼籲禁止能夠在沒有直接人為干預的情況下識別和打擊目標的致命性自主武器。

6、關於AI崇拜

這裏提到了哪怕AI很強大，但依然是人類的蒼白反映，是人做的。把AI神話和崇拜本質上是崇拜人類本身。

7、其他具體觀點

這裏包括在醫療和教育中AI不能取代醫生和患者，老師和學生的交流；AI生成虛假信息的危害；隱私方面的擔憂；能源消耗和環境破壞等，依然涉及到天主教對與人的尊嚴，人類利益、人類教育的表述，這裏不多提。

三、個人思考：

由於本人並非學習和研究宗教、哲學及社會方面，這個文件有什麼意義、影響等等都説不出一二三來。這裏僅僅從我看這篇內容的初衷，在一個科幻故事中考慮傳統宗教對AI的態度，並且這個態度會做出怎麼樣的改變，這也是為什麼我會大篇幅的去試圖理解並講述教廷是怎麼解釋人類智能以及為什麼人工智能不是智能的原因。

1、AI變革中保守的宗教勢力

在一個虛構的涉及到AI的科幻世界裏，天主教會可以是一個在AI方面偏保守的組織。它會反對搭載有AI的仿人機器人，可能會要求仿人機器人必須要有非常明顯標識和人類做出區分，可能會將支持機器人權利的羣體打為異端，也就是説過去關於AI的科幻作品裏那些有着仿真皮膚的看起來是人的智慧機器人會是天主教廷所反對的。

並且如果AI真的誕生了智慧，足以成為一個新的智慧種族的時候，保守的天主教廷也依然會以人類至上將其定義為工具。同樣那些在科幻作品中被機器人搶走工作的人是否會選擇皈依，使的教會力量再次擴大，人類至上主義者是否會是宗教信眾。

這樣AI變人的劇情衝突是否可以和宗教衝突融合在一起，未來的戰爭是否會是由教廷發起的一場新的十字軍，敵人是大規模應用仿人機器人、支持機器人權利、甚至是機器人國家。

2、激進推進AI的宗教勢力

但是，是否又可以這麼設想，如果一個機器人説它的智慧是“上帝”賜予的，如果這個機器人在辯經方面有了非常深刻的表述，如果這個機器人像人類那樣渴望“救贖”。這是否會促成教會再次分裂，教會內是否會有人認為AI同樣是上帝的造物，認為AI和人不同但平等，甚至更激進的認為AI是更接近上帝的存在，那又會發生什麼。

這樣是否可以設想，未來支持並推動人類裝罐，推動機械飛昇的並不是唯物的科技主義者，而是一羣激進的天主教徒，或者説靈能罐頭是可以存在的。

或許這會是一個非常有意思的衝突設定。

——寫少前同人偶然發現的有趣且嚴肅的內容