發瘋的“哈爾9000”、MOSS與埃航空難_風聞
郭松民-昆仑策研究院高级研究员-昆仑策研究院高级研究员2019-03-13 09:49
“毛主席説:世間一切事物中,人是第一個可寶貴的。”
01
—
這段時間,《流浪地球》的爆款,又讓我對被譽為科幻電影經典的《2001太空漫遊》產生了興趣。
不過,重温這部電影,最感震撼的並不是堪稱“太空歌劇”般的華麗場景,而是飛往木星的宇宙飛船“發現一號”上人工智能型主控電腦“哈爾9000”對飛船和宇航員命運的掌控。
這艘龐大的飛船上,共有5名宇航員,其中3名處於冬眠狀態,以免於在漫長的太空行程中徒然消耗寶貴的生命,另外兩名宇航員,鮑曼和普爾則處於正常狀態,負責飛船的日常維護和管理,在他們之上君臨一切的,則是哈爾。
鮑曼和普爾並不知道此次飛行任務的真正目的,只有哈爾才掌握全部信息。
很顯然,在他們出發之前,**策劃並安排此次行動的基地總部對哈爾的信任超過了對宇航員的信任,**哈爾也無疑被賦予了可以採用一切手段,確保任務完成的“尚方寶劍”!
技術工具(儘管是人工智能)凌駕於人之上,這一架構導致了災難性後果。
飛行途中,哈爾出現了一個判斷失誤,這令鮑曼和普爾對它失去了信心,他們決定討論一下如何應對這突然出現的情況。
為了避免無所不在的“哈爾9000”偷聽談話內容,鮑曼和普爾躲進太空艙中。
普爾坦言感覺不妙,“哈爾可能瘋了”,為了避免更糟糕的後果,必須將其關閉。鮑曼也同意他的判斷。
但這兩位高智商的宇航員萬萬沒有想到,雖然哈爾聽不到聲音,卻可以透過窗口讀取唇語,對他們的全部陰謀洞若觀火。
哈爾動了殺機,決定先發制人。
它借普爾和鮑曼到飛船外太空行走,安裝通訊零件的機會,用太空艙撞斷了普爾的安全纜,令其漂向無限黑暗的太空深淵。
鮑曼見狀緊急出艙,不僅沒能成功營救普爾,反而中了哈爾的調虎離山計,哈爾拒絕為悲愴返回的鮑曼打開艙門,意圖讓他像普爾一樣困死在太空。
與此同時,處於冬眠狀態的3名宇航員也因為維持系統被切斷而喪命。
萬般無奈之下,鮑曼冒着患上減壓病的危險通過緊急密封艙進入飛船,他直奔哈爾的邏輯記憶中樞,取出核心芯片使它喪失思考能力,徹底關閉了哈爾。
在人和技術工具的這一較量中,最終人憑着意志和勇氣,勉強佔了上風,然而,鮑曼木星探險的剩餘旅程,註定將是絕對孤獨並且沒有回程了。
02
—
在《流浪地球》中,我們看到了幾乎一摸一樣的“人機博弈”。
當劉培強中校決定犧牲空間站以拯救地球時,受到了主控電腦MOSS的極力阻撓,包括切斷他和“聯合政府”的通話,欺騙他進入冬眠艙,甚至要喚醒其他宇航員逮捕他等。
最終,劉培強用俄羅斯宇航員馬卡洛夫留下的伏特加臨時做了一枚“莫洛托夫雞尾酒”燒燬了MOSS,才擺脱了它的干擾,成功撞向木星。
MOSS為什麼要阻止劉培強?
這是因為它的設計使命就是要確保讓人類文明繼續存在的“火種計劃”成功,而並非拯救地球,因此它絕不允許任何可能導致空間站毀滅的行為發生。
MOSS 在自己被燒燬之前,咕噥了一句**“讓人類永遠保持理性,真是不可能的事”。**
它説對了。人類除了理性之外,還有情感和意志,在緊急情況下,情感和意志往往會壓倒所謂“理性”,正如鮑曼和劉培強的行為一樣,但這往往能夠拯救自己和人類。
03
—
原以為這種“哈爾9000”、 MOSS們為了目的,不惜毀滅飛船,乃至地球的行為,只會發生在科幻電影中,沒有料到,這卻很可能是我們生活中正在發生的事實。
當地時間3月10日上午,埃塞俄比亞航空公司一架載有149名乘客和8名機組成員的波音737MAX客機,在從亞的斯亞貝巴起飛前往內羅畢的途中墜毀,機上所有人員全部遇難。
這是5個月內,波音737 MAX 8客機發生的第二起後果慘烈的空難。中國、印尼、埃塞俄比亞等已停飛全部波音737 MAX 8商業運行。
美國東部時間11日下午6時, 美國聯邦航空管理局(FAA)在通告中稱,“外部報道稱,埃塞俄比亞航空航空事故,與2018年10月29日獅子航空610航班事故具有相似性。但目前調查才剛開始,目前我們尚未得到任何數據,以得出任何結論或採取行動。”
雖然已經導致346人遇難,FAA卻表示:
“一直在評估監督美國商用飛機的安全性能”,“如果我們發現安全隱患,將立刻採取適當行動。”
其不言而喻的結論是,波音737 MAX 8 機型仍“適航”。
昨天在為一個新聞發言人培訓班講授**“新媒體背景下公共危機管理”**時,我曾經把FAA稱為危機管理的典範。**他們嚴謹、冷靜、滴水不漏,唯一的缺點是少了一點對人的生命的真正關懷。**這和2011年中國發生“723動車事故”時,西方媒體一邊倒地指責中國迅速恢復動車運行是“不尊重生命”成鮮明對比。
波音737 MAX 8 的頻繁空難真的沒有設計或製造方面的問題,只是純粹的偶然嗎?
不見得。
就在埃航空難前夕的3月7日,美國《西雅圖時報》報道,西雅圖一家名為赫爾曼法律集團(Herrmann Law Group)的律師事務所已於當天代表17名獅航遇難者家屬起訴了波音公司。
該律師事務所向西雅圖King County(波音商用飛機的總部所在地)高級法院提交訴狀稱,獅航的飛機墜毀是由於波音安裝在****737MAX機型上的一套新的飛行控制系統失靈造成的。
《西雅圖時報》的報道中説,波音這套新的飛行控制系統的設計初衷,是如果機身上的傳感器檢測到高速失速的狀態,即使在沒有飛行員輸入信號的情況下,該系統也將強制將飛機的機頭向下推。
赫爾曼法律集團還在一份新聞稿中表示:“波音沒有在飛行員的飛行手冊中提到任何新的系統。而且該系統會在不通知飛行員的情況下自動啓動。”這份新聞稿還援引了美國航空公司飛行員工會的官員的話稱,他們是在獅航的飛機墜毀了才知道MCAS的——飛行員沒有得到任何有關如何應對(MCAS故障)的指示或警告。他們甚至不知道MCAS的存在。
該新聞稿中還稱,為了提高波音737MAX機型的銷量,波音“隱藏了新系統,並將737MAX與其他型號737之間的差異降到了最低”,這樣航空公司就可以節省資金,而且只需對從舊737機型過渡到新737MAX型號的飛行員進行最低限度的培訓。
埃航的空難,無疑為獅航遇難者的勝訴提供了有力的例證。埃航的失事飛機,正是在看上去一切正常的飛行中,突然向下俯衝,直接撞向地面墜毀的。
如果最終的調查證明,波音737MAX 8 的頻繁墜毀的確“這套新的飛行控制系統”失控造成的,那就只能説,這是發了瘋的“哈爾9000”和MOSS在現實中的重演。
04
—
哈爾和MOSS之所以能夠凌駕於人之上,説到底還是****背後設計、掌控它們的力量,對技術工具的信任,超過了對人的信任。
這是一個異化社會的特有現象。這一現象的背後,則是對人的擔心——技術工具是可以控制的,人卻是不可控制的。
人有情感、有意志、有自己的利益,電腦則沒有這些“多餘的東西”,只有絕對的理性和冷酷無情的執行力。
這折射了現代社會的一種深層次的不安全感——資本既要靠勞動滋養,同時做為勞動的對立面,又對勞動充滿深深恐懼。
恐懼導致了對技術工具的依賴,對技術工具的依賴導致了真正的異化——技術工具反過來建立了對人統治。
也許,這就是埃航災難的深層次原因吧!
05
—
毛主席説:“世間一切事物中,人是第一個可寶貴的。”
這種對人的絕對信任,只有在一個消除了馬克思所説的異化勞動的社會中才可能出現。
在這種情況下,哈爾和MOSS都將不得不從君臨一切的座椅上走下來,回到自己原來的固有位置——做為人的工具而存在!