自動化改變生活,但有時候,過於自動化會令出事時毫無保障
就在這兩天,西班牙發生了一場極為慘烈的鐵路事故──高鐵對撞,68人死亡。
最離譜的不是事故本身,而是它的前因與後果:
首先,當地時間10月28日8時30分左右,西班牙馬德里至塞維利亞的高鐵線上,烏爾達車站的控制系統因三台電腦通訊故障而癱瘓,全長63公里的區間失去安全保護,所有列車觸發自動煞車。
聽起來很嚴重吧?但其實鐵路系統的壓力機制非常正確──全線自動緊急煞車停,所有車乖乖停在原地。 到這一步,自動化系統其實把險情給兜住了。
但接下來,最精彩同時也就是最嚇人的部分來了。
隨後,馬德里阿托查的24小時調度控制中心人手接管了指揮權。問題就出在這裏。
一名調度員大手一揮,給了一道指令:『斷開連接,重新連接,給我全速開起來! 』這道指令直接違反了安全規程。理論上,調度員必須確認前方軌道已清空,才可以允許後方列車全速推進。
大哥,前面軌道有沒有車,你是一點不帶確認的嗎?
最魔幻的是,在紅燈亮着的情況下,這列高鐵以時速200公里狂奔了25公里,以香港地鐵作比喻的話,這就相當於從中環出發一眨眼功夫,車就已經衝到了屯門。
結果就是一頭撞上了停在前面的另一輛車。
大約8時36分到8時52分,這列火車就像脫韁野馬一樣,在幾分鐘內無視了一切警示,直接把自己砸向了毀滅。
關鍵是其實是有紅燈啊!這是三歲小孩都知道『此路不通』的紅燈啊!
還記得當年的波音737 MAX空難嗎?由於全盤自動化系統(MCAS)依據單一感測器的錯誤數據,在飛行員不知情的情況下強行壓低機頭;而飛行員在驚慌中跟看不見的電腦瘋狂拉扯,最終在人機互毆中,把飛機拍進了地面。兩起空難,346人喪生。
那為什麼會犯下這種「低級愚蠢」的錯誤?
但這正好觸及了工業設計裏最殘酷的悖論──自動化悖論
系統越自動化、越可靠,人類日常就越淪為「無腦的監工」。 平時,調度員只需要坐在螢幕前喝咖啡,所有的安全防護、測距、煞車全由AI和演算法代勞。人類的緊急肌肉記憶早就退化成了一片沙漠。
當突發故障降臨、系統突然「把方向盤扔給人類」時,那個坐在控制台前的人其實處於極度的信息過載和心理恐慌中;他們的第一本能往往不是「核查事實」,而是急於消除故障、恢復秩序、應付上方追問進度,也就是所謂的「趕快把車跑起來」以證明系統沒事。
在那種幾分鐘的高壓裏,硬生生把一個正常人推到了一個「幾乎不可能做對」的位置。他不是不聰明,而是整個系統在平時剝奪了他思考的能力,卻在出事時把所有的黑鍋,全甩給了他一個人。
系統癱瘓了,我們可以重啟電腦;但當坐在控制台前的人腦子「癱瘓」、在紅燈下把兩列高鐵送上對撞軌道的時候,誰來重啟這群盲目聽從權威指令、被自動化架空的人?
更刺眼的是,這已經是西班牙今年第二宗致命鐵路事故,兩宗事故都涉及同一條高鐵線路。如果每一次悲劇過後,都把責任簡單粗暴地甩給「個別操作員失誤」,卻不去檢討這套『平時把人邊緣化、出事把人當炮灰』的系統設計,那下一次,當某台電腦再次黑屏時,我們每個人買的高鐵票,依然只是一張通往未知的單程票。 」
文案、美術、剪接:王波

評論(0)
0 / 255