墜毀的波音737 Max：一部人類無法控制的機器_風聞

李根 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

美國波音飛機的賬，現在正被歸到機器上。

事故信息已眾所周知。3月10日，埃塞俄比亞航空公司的波音客機，在起飛6分鐘後墜毀，機上149名乘客、8名機組成員，全部遇難。其中還包括8名中國公民。

當然，不僅因為空難原本就備受矚目，而且圍繞失事飛機機型，大家還迅速發現：這不是5個月前另一起印尼空難噩夢重演嗎？

波音B-737-800MAX，交付使用剛滿4個月的機型，成為眾矢之的。

並且更關鍵的問題，被指向該機型新系統的設計：

波音公司為節省發動機油耗，隱蔽修改飛機操作系統，而且機器程序還能在飛行員操縱之上，“擅自”給出控制指令，導致最後災難避無可避。

且在人與機器誰對操縱負有決定權的**“搏鬥”**中，波音的設計似乎已倒向機器一方。

於是連美國總統特朗普，也參與到口誅推伐中。

事故完整線

當時上午8時38分，埃塞俄比亞航空這架編號“ET 302”飛機原計劃由埃塞俄比亞首都亞的斯亞貝巴，飛往肯尼亞首都內羅畢。

那天天氣狀況良好，晴空朗日，沒有任何值得提前預警的動態。

但就在起飛後6分鐘左右，飛機失去聯繫，後墜毀於出發地約50公里外，俯衝着陸，機毀人亡。

更早之前，據稱地面曾接到當事飛機機長問題報告，請求迫降，但旋即失去聯繫，最終沒有避免悲劇發生。

現在，雖然飛機黑匣子已經找到，但具體失事相關原因還無結果，誰也不知道在生死之間，157名乘客經歷了什麼……

只是事故情況太可疑了。

除了天氣狀況良好，該航班機組信息也被進一步挖出——履歷紀錄都非常好啊。

曝光信息稱：

失事班機的機師擁有極佳的飛行紀錄，飛行時數超過8000小時。

失事飛機在出事之前，剛從南非飛回埃塞俄比亞，地停3小時後執行事故航班，失事前並沒有發現技術問題。

而埃塞俄比亞航空，也有良好的飛行安全紀錄。

在2018年的全球航空公司安全排名中，名位列第40，也是星空聯盟成員。還曾於2013年和2016年榮獲最佳非洲航空公司大獎，是非洲航空業的精英，未有過類似重大事故發生。

於是有心人發現，這機型怎麼跟2018年10月29日印尼獅航的失事飛機一模一樣？

再一查，果然。

不僅機型都是波音737 MAX 8，而且也都是交付不久的新飛機。

更主要的是，失事過程也驚人相似。

當時印尼獅航飛機國內固定航線飛行，在起飛後13分鐘，於印尼以北海域墜毀，機上189人全部遇難。

而且事故原因，真與該型號飛機有關。

在黑匣子找到後的調查中，初步分析結果是：涉事飛機其中一個迎角感應器失靈，導致飛行姿態修正系統錯誤地判定飛機即將失速，從而控制飛機進入俯衝，而飛行員對此係統缺乏認知，最終飛機因未能及時改平而墜毀。

此次埃塞俄比亞飛機也類似。

央視援引Flightradar24數據顯示，飛機的飛行數據記錄了埃航飛機最後的軌跡，飛機在起飛後，曾經有過突然下降的跡象隨後又有拉昇，之後消失在追蹤畫面中。

而在之前印尼獅航的分析中，還披露了一個更具體的問題：

飛機信號系統接收到一個假信號，信號顯示飛機“抬頭”，所以控制系統持續給出了“低頭”的指令。機組與控制系統搏鬥很長時間，最終發生事故。

雖然埃航黑匣子調查結果還未公佈，但不也發生了不正常的爬升與下降嗎？

背後究竟是怎樣的系統？

新功能MCAS

馬上，就有知名航空網友出來科普。

微博大V**@歡樂的雲端之上**，身份是中國南航機長，介紹了可能讓飛機抬頭-低頭的系統原因所在。

他説大家討論的系統，指的是波音737MAX的新功能MCAS。

全稱：The Maneuvering Characteristics Augmentation System.

要點翻譯即：機動特性增強系統。

**△**via: The Air Current

波音737MAX設計之初，波音公司為讓新發動機更節油，從而安裝位置只能更高更靠前，但也帶來新問題——產生的抬頭力矩有讓飛機失速的風險。

於是就設計了MCAS，在系統探測到大迎角時，電腦會自動讓飛機低頭。

同時也存在隱患：在接收到錯誤信息時存在自動低頭導致失控的隱患。

機長“歡樂的雲端之上”猜測，這可能是關鍵原因。

還有機組人員進一步爆料，更惡劣的是，“MCAS在接收到錯誤的信號後會自動讓飛機低頭”的問題，沒有被寫進手冊裏，印尼獅航空難時，飛行員就不知道有這個設計。

所以當時的悲劇也與此相關。

在印尼獅航的波音客機出現防失速自動系統誤判後，不斷壓低飛機的機鼻，飛行員則拚了命想將機鼻拉起來，等於出現“人機搏鬥”的情況，飛機在11分鐘內升降26次，但飛機仍推向無法挽回的飛行姿勢，最終墜機。

**△**印尼獅航波音737MAX客機

歸結來説，在波音737MAX客機中，人類飛行員面對一個“關鍵時刻難以控制的機器”。

需要説明的是，印尼獅航事故後，波音公司也意識到了問題。

在2018年11月，波音公司向全球737MAX機型的運營商發佈公告，警告該系列飛機的飛行控制系統存在讀數輸出錯誤的問題，可能會導致飛機自行大角度俯衝並墜落。

聲明稱，波音公司已向相關航空公司發出警告：飛機俯衝的問題只會在手動飛行時發生，且錯誤地輸出迎角傳感器(AOA)，導致飛機傾斜10秒。

更進一步，飛行手冊也得到修改，飛行員也被針對性及時培訓。

萬萬沒想到，不到5個月，另一起毀滅性空難就在同一機型上再次發生。

那麼問題來了：如果説印尼獅航是飛行員不知情，那埃航噩夢重演，是否意味着在MCAS系統中，人類生死攸關的抉擇，算法權重是優先於人的？

其實在MCAS系統設計中，是有相關機制考慮的，The Air Current有清楚介紹：

但至少從印尼獅航的事故中，看不出人類確實能“奪回”主動權。

機器決策 or 人類？

所以這樣的人機討論，並非毫無緣由。

外媒大西洋通訊社就直白表示，MCAS作為一個輔助人類的機器系統，卻在生死攸關時，不僅人類難以完全接管，而且還有“人機搏鬥”，最後飛行員也沒能奪回控制權從而避免空難，需要深思。

這跟我們常説的自動駕駛汽車中輔助系統一樣，決定權究竟在人還是機器？到底是完全信任機器還是確實有中間態可走？

不過大西洋通訊社可還沒覺得MCAS能跟自動駕駛系統相提並論。

他們更傾向於把MCAS類比為汽車中的防抱死制動系統，該系統可以檢測到駕駛員在制動器上鼓搗的時間過長，然後進行干預，以防止汽車進入打滑狀態。

或者勉強能跟無人車中車道保持的控制模塊類似。

但説一千道一萬，大西洋通訊社的分析認定：完全把人類命運交給機器程序，是不行的呀。

甚至還舉例説，1995年，哥倫比亞發生飛機撞山事件，核心原因是機組太信任飛機自動駕駛功能，以為已經進入自動駕駛系統設定的正確航路，最後導致機毀人亡。

而在已經過調查的印尼獅航分析中，飛行員一直想把機頭拉回來，但機器系統不讓，還不斷推低它，最後還是自動化系統獲勝……

所以大西洋通訊社分析師呼籲：讓飛行員都熟知自動化系統原理顯然是不可能的，那能不能關鍵時刻直接按掉開關？

就像AlphaGo比賽中，拔掉電源。

然而這似乎也不能解決所有問題，一方面是波音確實有類似設計，但在印尼獅航沒起作用。

另外，這違背自動化系統被打造和應用的初衷。

比如有網友就指出：還記得馬航370事件嗎？或者更遙遠一點的911災難。

如果有一個處心積慮的人類試圖控制飛機且做反人類之事，總開關一斷，我們何以保證安全？

機器，至少是理性客觀的，不會受人類情緒影響。

現在如果有機器導致的問題，那隻能説明機器設計的還不夠好，人類工程師還需更努力。

總之，信任機器或者相信族羣同胞，天平兩端都有人站。

特朗普鍵盤反對機器

不過知名網癮老年、美國總統特朗普，觀點就很明確。

他不認為越來越技術化的飛機是好事。

在埃航討論中，特朗普連發兩推。

首先表示現在太過信任電腦：

飛機現在變得越來越複雜。飛行員都不需要了，只需要MIT（麻省理工學院）的電腦科學家。我看過很多型號的飛機，都是這樣。總是尋求不必要的更進一步，而老的和簡單的往往更好。

緊接着補充：

有時需要爭分奪秒做出決定，這時複雜性就造成了危險……我不知道你們怎麼想，但我可不想讓愛因斯坦來當我的飛行員。我想要的是偉大的專業飛行員，可以輕鬆和迅速地控制飛機！

怎麼説呢？特朗普兩條推特似乎相互矛盾。

因為更多MIT計算機科學家（先不管CMU和斯坦福有沒有意見）進入航空領域，正是希望減少飛機操作的繁複性，從而降低對高門檻專業性的依賴啊。

而且特朗普也就鍵盤説説。

因為埃航事故發生後，全球大部分地區都紛紛宣佈暫時停飛所有波音B-737-800MAX型號飛機，特別是中國，第一時間就宣佈全部下線，等事故原因和分析結果出爐後再行討論。

其後英國到澳大利亞，也紛紛宣佈暫停波音737MAX機型運營。有的國家甚至不光要求本國航空公司停飛，還禁止相關型號的飛機飛越他們的領空。

然而美國至今不為所動。

美國西南航空（Southwest Airlines）還表示：不暫停該機型，也不會對該機型做免費改簽。

一直被全球作為航空安全標準龍頭的美國聯邦航空管理局（FAA），依然堅持其安全認定，稱對於波音B-737-800MAX，“根據現有信息，我們沒有任何依據向運營方發佈新的指導。”

波音公司則在週二重申：對737 Max的安全性“充滿信心”。

然而大家對這家美國飛機制造商還依然“充滿信心”嗎？

波音737MAX機型遭全球23國禁飛，公司股價兩日下跌11%，市值已蒸發266.5億美元，約合人民幣1789.28億元。

按照波音737MAX官方1.2億美元\架的定價，兩天損失了222架飛機。

然而逝去的生命，又如何用數據計算清楚？

世間除了生死，皆為小事。

希望類似悲劇，永遠止步於此。

One more thing，也有評論將此次空難中被討論的系統，跟機器學習、AI直接掛鈎。

需要正名的是，這個鍋，跟人工智能離太遠了……AI，背不了。