人工智能為了實現人類為其設定的目標，可能會傷害或毀滅人類？_風聞

【本文來自《華為戰略研究院院長周紅：AI能力快速提升，但還面臨三個重要挑戰》評論區，標題為小編添加】

人工智能為了實現人類為其設定的目標可能會傷害或毀滅人類

美國暢銷書作家丹·布朗的小説《本源（Origin）》描述了一個離奇故事：AI助理接到主人的指令，想辦法令更多的人關注他的研究成果。AI助理經過周密計算，結論是如果主人宣佈研究成果的當天被暗殺，必將產生轟動性效果，會有更多的人注意其研究成果。於是AI助理制定了一個周密的行動計劃，並準確無誤地將其付諸實施……

與人類思維相比，人工智能僵化而狹隘，沒有道德底線，缺少全局觀和同理心，為了單純地實現既定目標而不擇手段，甚至毀掉現有的一切，包括創造它們的人類。

之所以出現上述情況，原因是由於人類的符號智能與AI的比特智能產生機制不同。

人類是一個複合型智能實體，不但擁有符號智能，還同時擁有信號智能和基因智能，而且符號智能是建立在信號智能和基因智能之上。在有些情況下，符號智能還受制於信號智能和基因智能，因此，人類在突發情況下，或者做出重大決策時，或者在生死攸關時刻，起決定作用的往往不是符號智能，而是信號智能或基因智能。後兩者的決策依據是幾百萬年，乃至幾十億年的進化積累，這樣的決策更具有大局觀，更能經得住時間的考驗。比如，我們緊急避險的本能快速而有效，此時沒有經過符號智能的邏輯思考，而是信號智能在發揮作用；父母在危機情況下拼死保護子女的行為動機不大可能來自符號智能的邏輯推理，更可能源於“自私的基因”。