AI擴散風險迫在眉睫，谷歌前CEO：防不住的危機來了？

【環球網科技綜合報道】10月10日消息，據CNBC報道，谷歌前首席執行官埃裏克·施密特日前發出強烈警示，人工智能（AI）的擴散風險正成為亟待解決的重大問題，同時，在AI泡沫論甚囂塵上的當下，他對AI的未來依然充滿信心。

施密特指出，人工智能存在嚴重的擴散風險。這種風險主要體現在技術可能落入不良行為者手中，進而被重新利用和濫用。他舉例稱，無論是封閉模型還是開放模型，都存在被黑客攻擊、移除防護機制的可能。在訓練過程中，AI可能學到不良行為，甚至學會如何殺人。儘管各大公司都在努力確保模型不會回答危險問題，但仍有證據表明這些模型可以被逆向工程。

AI系統的脆弱性還體現在易受多種攻擊手段的影響，如提示注入和越獄攻擊。黑客可以通過隱藏惡意指令，誘使AI分享私人數據或執行有害命令；也可以操縱AI的回應，使其無視安全規則，生成受限或危險內容。

面對如此嚴峻的形勢，施密特坦言，目前還沒有一個有效的“防擴散機制”來遏制AI的危險。然而，他並沒有因此對AI失去信心。相反，他認為AI技術沒有得到應有的關注，甚至被低估了。

在AI領域投資熱潮不斷、泡沫論頻現的背景下，施密特的樂觀態度顯得尤為突出。他認為，投資者願意投入大量資金，是因為他們相信從長期來看，AI的經濟回報是巨大的。（旺旺）