懂得“作惡”，機器人才算擁有人類的心智？_風聞

在科幻影片《機械姬》的結尾，“女主人公” Ava 成功利用了男主角 Caleb 的感情，登上了通向自由的直升機，Caleb 則被永遠所在實驗室中。故事的最後，Ava 茫然地呆呆站在車水馬龍的十字路口，沒有快樂，但是卻真實地感受到自由。

在《機械姬》之外，還有無數關於探討 AI 的科幻作品，如膾炙人口的《A.I》、《我，機器人》、《黑客帝國》、《終結者》等，但是最令筆者印象深刻的當屬這部在 2014 年上映，略帶驚悚色彩且結局大反轉的影片。該影片主要講述了這樣一個故事：知名搜索引擎公司的程序員 Caleb 參與到一項機器人（Ava）測試，但是在 Ava 精心編織的愛情謊言下， Caleb 被欺騙篡改了關押 Ava 的門禁密碼，導致 Ava 殺死自己的創造者 Nathan 後成功逃之夭夭，而可憐的 Caleb 則永遠被鎖在黑暗的實驗室中。

這部影片的魅力除了讓人耳目一些的 AI 主題和讓人震撼的反轉結局之外，還在於拋出了一些讓人深思的 AI 命題，比如：

Ava 是否違反了機器人三大定律？

機器人三大定律是科幻作家阿西莫多提出的理論，第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外；第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。而影片中，Ava 不僅殺死了自己的創建者 Nathan，而且千方百計擺脱人類的控制，違反了第一、第二條定律。

通過圖靈測試是否意味着機器擁有了人的心智？

圖靈測試是指測試者與被測試者（一個人和一台機器）隔開的情況下，通過一些裝置向被測試者隨意提問。進行多次測試後，如果有超過 30% 的測試者不能確定出被測試者是人還是機器，那麼這台機器就通過了測試，並被認為具有人類智能。

影片中的 Ava 已經通過了基本的圖靈測試，進行的是更高階的圖靈測——中文房間。中文房間理論又稱作華語房間，這個思維試驗推翻了強人工智能（機能主義）提出的過強主張：只要計算機擁有了適當的程序，理論上就可以説計算機擁有它的認知狀態以及可以像人一樣地進行理解活動。

Ava 顯然推翻了中文房間理論，她已經完全具備了人的思維能力，包括聯接主義支持者們設想的具備因果推斷能力的心智，甚至人類身上作惡的本性。通過説謊、色誘等手段，Ava 達到了自己的目的。

影片中折射出人類對於人工智能發展的超前展望，而現實生活中，人工智能也在漫長的歷史長河中經歷着令人欣喜的演化和蜕變，逐漸改變着人類的生活方式，甚至文明的進程。

        

垃圾分類用上人臉識別

無人公交，司機全程放鬆，車輛自動駕駛

 

AI 自主決策助力嫦娥五號飛行試驗器着陸月球並探取土壤

儘管如今成功的 AI 應用不勝枚舉，但是發展過程卻相對緩慢，2004 年上映的影片《機械姬》中的幻想，在時隔 15 年之後距離實現依然遙遙無期，以最常見的智能助手為例，儘管被各大廠商宣揚有多麼智能化，但真正使用起來還是經常會發生答非所問的窘況，想擁有一個能跟你自然聊天甚至談心的機器人朋友，更是隻能幻想一下了……

客觀來説，現如今的 AI 的發展真實地面臨着諸多瓶頸，如強人工智能遲遲未出現，也不知何時才能出現，現有的 AI 只能做好一件事，Alpha Go 只會下棋，幹垃圾分類未必不會被罰到破產；再如基礎理論研究缺失，深度學習的黑箱屬性無解，把一切託付於未知並不可靠；倫理問題，毋庸贅述，這個問題不重視將會引發重大災難。此外，數據、泛化、能耗、語義鴻溝等問題，也都是 AI 發展道路上繞不過去的瓶頸。

當前，人工智能發展現狀究竟如何？學術界和產業界又提出了哪些最新的技術和研究來解決目前人工智能前進的障礙？2019 年 AI 開發者大會，專為探討這些謎題而生。