一瓶酒“助攻”的地球流浪丨專欄_風聞

一、從看完《流浪地球》説起

大東：小白，新年假期過的怎麼樣呀？

小白：東哥，一句話給你概括下我覺得假期裏蠻好玩的一件事！“道路千萬條，安全第一條。行車不規範，親人兩行淚。”

大東：哈哈，《流浪地球》確實是新年電影的一匹黑馬啊，是大家熱議的焦點。不知小白在看完電影有什麼收穫呢？

小白：東哥，不瞞您説，電影的後半程，我一直忙着在哭誒。雖然我是個理科生，但裏面涉及到的很多物理天文知識我都不太懂，還是出了電影院，廣大網友們幫我普及的知識呢。風靡全網的咱們中科院計算所王元卓老師給女兒手繪的講解圖更是幫我解開了好多的謎團。真的是通俗易懂，形象生動。

其中一張手繪講解圖

小白：東哥，電影裏除了帥氣的小哥哥，我對其中一個角色最感興趣！而且，對他還充滿了疑問呢。

大東：我猜你説的是空間站中的人工智能管家“莫斯”吧。

小白：東哥，懂我。

大東：我不算是人工智能領域的專家，也不敢隨意去揣測導演和編劇的科幻設計。從一個還算厲害的觀眾角度，我可以試着給幫你解答一下關於“莫斯”疑問，不過最重要的還是討論討論由“莫斯”引發的在網絡安全領域的一些思考。

二、“莫斯”

小白：在最後的危機時刻，莫斯否定了男主人公的設想，認為點燃木星是一個不可能完成的任務，在聯合政府有關負責人已經想要配合嘗試的時候，還是拒絕配合指令。莫斯是想保護自己或者説他已經擁有了一些自己的思想嗎？

電影中的“莫斯”

大東：人工智能和機器人的出現本就帶有不確定性。影片中，我們可以看出機器人莫斯的系統中有兩條底層命令：第一條是保護地球，第二條是保護空間站。你覺得這兩個命令對於莫斯來説哪個更重要？

小白：莫斯選擇帶着空間站“叛逃”，我覺得“保護空間站”這條命令的級別要比“保護地球”更高，因為空間站備份了整個人類的文明檔案，還有足夠多的人類受精卵，在地球遇到毀滅性打擊的時候，莫斯帶着它們逃出生天是最高級別的命令，也是最好的選擇。莫斯也可以更好的保護他自己。

大東：説的不錯，這也是為什麼早先以色列科學家提出相同想法時，機器人通過計算噴射距離判定成功率是零。最後的成功結局是男主犧牲自己和整個空間站才換取得來的。機器人這種技術的不確定性，引起了很多人的警覺，為了保護人類，早在1940年著名科幻作家阿西莫夫提出了最經典的機器人三原則，如果你感興趣可以去查找看看哦。

小白：沒想到東哥在科幻領域還有很深的研究啊。仔細想來，整個影片還是蠻有邏輯性的。

大東：還記得男主是如何讓莫斯乖乖聽話，拿回人工控制權的嗎？

小白：當然記得，一瓶“違規”的加加林呀，破壞了整個莫斯才實現的。東哥，我似乎懂你的意思啦。我們關於劇情的討論就到這裏，開啓安全領域的討論吧。

大東：你個小機靈鬼。

三、由“莫斯”引發的思考

小白：在我看來啊，人工智能是個很好的網絡安全工具，但也是一把雙刃劍。

大東：搶我台詞了。那我就借用一位專家在演講中的一句話來説吧。當一個新技術用於安全時，會存在兩種情況：一種是用新技術支撐安全，當然它可以做攻擊，也可以做防禦；第二種是一個新技術本身就會帶來一個新的安全問題。

機器人

小白：説起人工智能用來幫助安全工作人員做防禦，不知道我這樣理解是不是對的呢？比如，如果一名工作人員通常在北京工作，突然有一天早上從紐約登錄，這是一種反常現象——人工智能可以看出這是一種反常現象。

大東：理解的很對，但其實遠遠不止這麼簡單。人工智能可以幫安全很多很多的忙，可以自動評估開源代碼的潛在缺陷，可以識別密碼的泄露或者誤用，分析潛在的安全行為路徑等等等等。但同時也是“攻擊者”的寶藏。

小白：説起攻擊，就有點怕怕了。感覺還可以大大提高攻擊的效率呢，不敢想不敢想。

大東：網絡犯罪分子利用人工智能中的技術，它可以被用於各種惡意的任務。比如對開放的、易受攻擊的端口進行的掃描，或者是電子郵件的自動組合，甚至實現被24小時竊聽。再例如，使用魚叉式網絡釣魚的自動化，利用實時語音合成來模擬攻擊和欺詐，或者在規模上進行像包嗅探和漏洞攻擊這樣的活動。

小白：面對科技真的要雙向去看待呀。

大東：我們還有一個角度沒有討論哦，人工智能本身是否存在一些安全問題呢？

小白：（假裝聽不見）。

大東：人工智能自身存在着一些脆弱性。比如，在擁堵的北京三環路上，自動駕駛的汽車是否能順利的從正確的出口行駛出來呢？人工智能它一定要保護一個安全距離，但人卻是會打心理戰的。人工智能甚至可能出現威脅人類的潛在風險。

小白：任何技術都會存在潛在的安全問題，我們不能因為這個就判斷這項技術是不是好的，而是要理性的判斷，通過一些手段來讓技術更好的為我們服務，而不是成為犯罪份子的機會，你説是不是，東哥？

大東：誒嘿，你這是在教育我嗎？你別跑。你給我回來！給你留個作業，好好想想我剛才提到的經典的機器人三原則，寫個讀後感！

【關注中科院之聲公眾號（ID：zkyzswx）或微博@中科院之聲，看科學界的大事兒】