Uber Tesla 人工智慧 無人駕駛 普悠瑪 自駕 AI 捷運

從普悠瑪事故看人機協作 AI自動駕駛將面臨抉擇

2018-12-12
普悠瑪事故聚焦在司機超速及ATP關閉的問題,此凸顯了機器的失靈,以及人與機器互動的不協調。這起事故是危機也是轉機,有助於我們思考自動駕駛的發展,以及更深刻地去省思如何促進人與機器的協作互動。
普悠瑪列車翻覆事故讓我們驚訝於一個列車司機一邊要處理故障狀況,一邊還要駕駛列車,可想見現場當時是手忙腳亂,若要求面面俱到,似乎強人所難。短期解決之道是安排「雙駕駛」,但這會加倍耗費人力,加重台鐵人事成本的負擔。長遠來看,有政府高階官員表示可朝「自動駕駛」發展,司機反而變成配角,擔任輔助機器的角色。

在交通運輸實務上,許多國家的高鐵與捷運的設計已納入自動駕駛。而飛機早就以自動駕駛為主,大部分航程其實都是電腦在決定如何飛,機師主要是在起飛與降落時介入駕駛的運作。汽車產業也有朝自動駕駛發展的趨勢,Google於2009年開啟自動駕駛的專案計畫,2016年12月則分離出來成立一家名為Waymo的新公司,研發測試無人駕駛汽車並朝向商業化而努力。Uber、Tesla及許多汽車大廠也都紛紛投入自動駕駛的時代浪潮。

自動駕駛的發展與人工智慧(AI)的研發應用息息相關。由機器來掌控方向盤,不需要人類當司機,即使還需要人類當司機,也是居於輔助的角色。這可以解決人類當司機可能會有疲勞駕駛、分心不專注、危機處理判斷不夠周延以及應變能力不足等問題。鐵路運輸也可朝向自動駕駛發展以降低意外事故。

AI、清潔能源、機器人技術等發展開啟了第四次工業革命。火車這個悠久歷史的交通工具,其實已歷經好幾個工業革命並隨其應用發展。從蒸氣技術的第一次工業革命、電力技術的第二次工業革命到資訊及電腦的第三次工業革命,鐵路運輸則由蒸氣火車、電力火車發展到由資訊電腦控制的火車,例如普悠瑪列車走的是電氣化路線,且配備有列車控制監視系統(TCMS)以利司機掌握車輛各種狀況。隨著時代巨輪駛入第四次工業革命,火車朝向自動駕駛發展已是大勢所趨。

普悠瑪列車翻覆事故

今年(2018)10月21日16時50分,台鐵6432次普悠瑪列車行經宜蘭縣新馬站附近的大彎道時超速出軌,造成旅客18人死亡,2百多人受傷。本件肇事原因初步判定是彎道超速,且列車自動防護系統ATP(Automatic Train Protection)關閉,未能發揮限制速度的功能。但通聯紀錄則顯示在事故前40多分鐘左右,列車已發生動力異常現象,也就是有時候動力會自動消失,導致列車速度慢下來。司機與調度員一路上聯絡嘗試許多辦法要讓列車恢復正常的動力。而關掉ATP,其實是為了解決慢速的問題,因為ATP會限制車速。但在列車取得速度後,卻在彎道超速而釀成巨災。

普悠瑪事故聚焦在司機超速及ATP關閉的問題,此凸顯了機器的失靈,以及人與機器互動的不協調。這起事故是危機也是轉機,有助於我們思考自動駕駛的發展,以及更深刻地去省思如何促進人與機器的協作互動。

人與機器之間

自動駕駛可分為好幾個層級,國際汽車工程師學會於2014年發布自動駕駛六級(0、1、2、3、4、5)分類體系。如依該分類標準,現行的普悠瑪列車因為有ATP系統可由機器依現場狀況限制車速以維護安全,相當於第1級的層次,也就是主要還是由司機負責駕駛,在特定駕駛模式下,由輔助駕駛系統根據駕駛環境資訊控制轉向或加減速。但ATP被人為關閉後,該輔助駕駛減速的功能即失去作用。 交通運輸的自動駕駛,可進一步朝向2級(部分自動化)、3級(有條件的自動化)、4級(高度自動化)、5級(全自動化)的層次發展。就第5級的層次而言,自動駕駛系統在全部路程時間、路況及環境條件完成所有動態駕駛任務。自動駕駛的層級發展,與技術進步的程度有關,也涉及到人們的接受度,且呈現出人與機器互動關係的變化。在較低的層次,機器輔助人的決策,基本上還是人在開車。而在較高的層次,則是機器在開車,人反而擔任輔助機器的角色,甚至在最高層次,完全由機器操作開車,但未必能完全被世人所接受。

自動駕駛具備AI智慧,可指出通往目的地最便捷道路,提供乘客舒適愉悅的搭車體驗。當面臨危安狀況,自動駕駛亦可考量相關因素及避險手段,從而讓開車決策更符合經濟理性,亦有助於事故原因的鑑定及改革方案的建議。但另一方面,自動駕駛也可能發生機器意外事故,以及遭駭客入侵劫車接管系統的疑慮,此反映出:效率與安全是交通工具始終關注的兩大議題。

有軌電車的難題

任何交通運輸工具都須面對意外事故問題。哲學家提出一個有軌電車的難題(Trolley Problem):一輛失控電車即將撞到前方在軌道上的五個人,若是扳動轉轍器開關,可讓該列車駛向叉路軌道,但會撞到該叉路的一個人,是否該扳動該轉轍器?如果從功利主義及經濟學的觀點,救五個人卻害死一個人似乎比較有利。但是這麼做需要積極的作為,在心理感覺上,扳動轉轍器好像自己主動去殺了一個人,會讓人覺得內疚;若是不去扳動,也就是消極不作為,似乎可將意外歸咎於命運,或是把責任推給別人,讓別人來決定扳動或是想辦法剎車。我們換一個更直接的問題:當列車高速行駛看到前方軌道有一個人臥軌,到底是要緊急剎車?還是直接開過去?

面對上開問題,自動駕駛的AI系統已將規範程式化,可做出此時此刻符合最佳成本效益的選擇判斷。然而值得深刻省思的是:為何要將功利主義植入AI系統?人類其他的價值與人性因素難道就不重要?到底該由誰來決定AI要採取哪一種價值系統?例如前述臥軌案例,如果臥軌者明顯的是一個抗議社會不公平的底層工人,則可能引發更有爭議的選擇難題。

隨著AI及自動駕駛的時代巨輪轉動,固然樂見引入AI智慧機器可便利人類的生活,降低意外事故的發生,但不能將人類重要決策完全交給機器,甚至推卸責任給機器。應深層思考人類文明科技化的核心價值!

<本文作者陳佑寰目前為執業律師。國立台灣大學法學碩士,美國賓夕法尼亞大學法學碩士。專攻領域為智慧財產權法、高科技產業議題及資訊法等。>


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!