AI大模型三種可能的“作惡”方式_風聞

【本文來自《“人工智能教父”再發警告：AI對人類的威脅或比氣候變化“更為緊迫”》評論區，標題為小編添加】

AI大模型三種可能的“作惡”方式

1、AI大模型“被動作惡”

AI大模型是一個智能工具，可以輔助人類做一些繁瑣、重複和創意性工作，但也會有不法之徒用它來做違法亂紀的勾當。

AI大模型不但能撰寫文章，還能生成圖像、視頻。如果用來弄虛作假，幾乎可以亂真，普通人很難識別出來。

如果有人用它來製作虛假圖像、視頻，傳遞錯誤信息，其破壞力遠大於文字形式。

2、AI大模型“好心作惡”

AI大模型有可能為了實現人類為其設定的目標而傷害人類，即“好心辦壞事”。

我們還應該記得，在2018年至2019年的半年內，美國波音公司生產的737MAX-8客機相繼發生兩起重大空難，有幾百位乘客和機組人員遇難。

機動特性增強系統(MCAS)相當於一個AI模型。事實上，這兩起空難都是AI模型為了實現人類事先設定的工作目標而導致的。

調查顯示，737MAX-8是通過對原有機型更換新型發動機改裝而成。由於結構佈局的調整，導致飛機容易在大迎角飛行時失速。為了解決這個問題，波音公司的工程師就開發出了一套機動特性增強系統(MCAS)。

波音工程師為MCAS賦予了較高的權限：除非人為關閉系統，否則其執行權限高於飛行員。

由於MCAS屬於可選功能，需另行付費才能在儀表中顯示並獲知其關閉方式。而涉事的兩架飛機所在的航空公司為了節省資金，都沒有購買這項服務，其飛行員根本不知道MCAS的存在，更不知道如何關閉它，雖然MCAS仍然在發揮作用。

調查顯示，由於兩起空難中MCAS的比特知識表徵系統——迎角傳感器——產生了錯誤的信息：把正常飛行狀態表徵為大仰角飛行。MCAS接收錯誤信息後，按照事先的設定，向執行系統發出了指令，壓低飛機機頭。

飛行員發現機頭過低後，試圖拉昇機頭，但其執行權限低於MCAS，而且也不知道如何關閉它。於是，MCAS極為“忠誠”地實現着人類為其設定的工作目標，反覆壓低機頭，在高空上演了一場“人機互博”，最終釀成機毀人亡的慘劇。

3、AI大模型“主動作惡”

未來的比特智能實體的知識表徵系統的感知範圍、精度和速度都遠超人類。也就是説，未來的比特智能實體將比人類知道的更多、更準、更快。

比特智能實體的大腦——AI大模型——呈指數級加速進化，其智能水平可能在不經意間超越人類。

越來越多的機器設備、交通工具和武器裝備變成了自動或半自動控制，即內部安裝了AI模型，變成了比特智能實體。

比如智能工廠、3D打印、服務機器人、工業機器人、自動駕駛交通工具以及察打一體的無人機、無人戰車，等等。

在不久的將來，也許某個超級AI大模型的智能達到“奇點”，超越了人類。它可以藉助“萬物互聯”的物聯網，控制全球數千億個比特智能實體，來實現其自身的目標。如果這個目標與人類的利益相沖突，必定是人類的災難。