原標題：該翻篇了!“電車難題”不應成為自動駕駛技術發(fā)展的緊箍咒
編者按：本文編譯自 The Atlantic，原文標題為 Enough With the Trolley Problem。
說起自動駕駛，許多人就會不自覺的聯(lián)想到上世紀 70 年代誕生的經(jīng)典電車難題，這個倫理學領域最為知名的思想實驗正在成為整個行業(yè)不斷前進的絆腳石。因此，現(xiàn)在我們是不是該向前看，把這個問題徹底翻篇，不要再用這一道德問題來拷問自動駕駛汽車了?
所謂的電車難題內(nèi)容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在于，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應拉桿?
如果以電車難題為基礎來一次發(fā)散思維，你確實能得到大量難以解答的問題。比如，自動駕駛汽車應該為了保行人而放棄駕駛員嗎?那么事故當頭，老人和年輕人誰更應該做出犧牲?如果車輛能獲知附近駕駛員的信息，在車輛失控前它是否應該根據(jù)這些信息進行選擇性的碰撞?
事實上，電車難題在自動駕駛圈已經(jīng)是個繞不開的話題，麻省理工的工程師甚至專門眾籌了一個“道德機器”，旨在編寫一個意見目錄，以解決未來機器人在特定情況下該作何反應的問題。
不過，幾十年來都沒有答案的電車難題其實本身就有個漏洞。在為機器人設定道德條件時這個思想實驗根本不及格，如果硬要把它套進這一領域，特別是在制定政策、引導設計或回答一些人們關心的問題時，肯定會導致一些有關機器倫理的危險且不完整的結論。
別讓功利主義蒙了眼
哲學家 Judith Jarvis Thomson 于 1976 年正式提出“電車難題”，不過類似的思考 1967 年就誕生了，只是當時另一位哲學家 Philippa Foot 探討的是人的打算與他們預見的不同。
當時 Foot 拿墮胎打了一個比方，如果產(chǎn)婦難產(chǎn)，是摘掉產(chǎn)婦的子宮放手一搏來救孩子(屬于“預見”的范疇，成了皆大歡喜，失敗了就一尸兩命)，還是直接結束孩子的生命(屬于“打算”的范疇)來救產(chǎn)婦一命呢?同樣都是面對產(chǎn)婦難產(chǎn)，不同的處理方式會帶來不同的道德結論。
Foot 當時還引申出了許多類似的情況，其中之一就與有軌電車司機有關。另外一個則屬于法官面對的難題，她設想如果法官不判處一位無辜群眾的死刑，暴徒就威脅要沖擊法庭。第二個設想就與電車難題類似，法官要做出選擇，到底是為了正義犧牲多數(shù)人的生命，還是為了多數(shù)人的利益犧牲無辜者。
經(jīng)過一番研究，F(xiàn)oot 在論文中表示：“大多數(shù)選擇犧牲扳道員來拯救更多生命的人，如果碰上法官歪曲黑白剝奪無辜者生命時也會感到震驚。”
于是，她總結稱，一個人做什么和一個人允許什么之間是有差別的，因此避免傷害和帶來幫助之間的差別非常重要。
Foot 的論文雖然簡短，但給現(xiàn)在的讀者提供了一個全新的視角來看待自動駕駛汽車遇到的道德困境，而不是鉆進“電車難題”的牛角尖里爬不出來。
從某種程度上來說，這是因為 Foot 遵循了大家所熟知的美德倫理(來自古希臘亞里士多德)。在美德倫理學家看來，一個人的道德水平甚至可以和生命劃等號。
不過，在討論自動駕駛汽車時，大多數(shù)人會自動忽略美德倫理，他們更重視自動駕駛汽車帶來的最終結果。在道德哲學里，這樣的方式是與美德倫理截然不同的，它的學名叫做結果論，而結果論中有個著名的分支——功利主義。也就是說，秉承這種理論的人在做事前會首先考慮自己行為可能導致的后果。
眼下，功利主義已經(jīng)成了自動駕駛汽車修辭學中根深蒂固的思想，而在宣傳時大家總是會提到自動駕駛汽車帶來的全方位安全防護。
鑒于美國 2016 年因車禍喪生的人高達 3.7 萬名且有 94% 都是司機犯錯，因此用可靠的機器人替換容易犯錯的人類成了一件有百利而無一害的大好事。
不過問題是，只關注結果會讓盲目的人們忘記原來自動駕駛汽車也有缺點。就像 Foot 提出的電車司機與法官的案例在道德上不能類比一樣，自動駕駛汽車在相同情況下可能也會造成不同的道德、法律和公民后果。
電車難題中有些假設很難成立
最近，Uber 的一輛自動駕駛測試車就在亞利桑那州坦佩市撞死了 49 歲的婦女 Elaine Hertzberg，當時她正推著自行車橫跨馬路。在筆者分析了一番有關這次事故的法律內(nèi)涵后，有些讀者對我報以功利主義者的嘲諷。不過他們不知道的是，美國 2015 年因為橫穿馬路而遭遇車禍身亡的人數(shù)高達 5376 人，而新聞可不會對這些事故進行逐一報道。
很快，自動駕駛汽車就能減少甚至把行人死亡的情況降為零。如果把這種想法套進電車難題，你就會發(fā)現(xiàn)軌道變成了時間，而非空間。雖然犧牲一邊軌道上的那個人依舊是個悲劇，但如果它的代價是拯救數(shù)千人，恐怕也會變得合乎情理。
問題在于，這樣的立場需要假定 Hertzberg 的死與其他不幸的行人一樣。從統(tǒng)計學上來說，這能說得過去，但從道德上看，恐怕就不是一回事了。
未來，如果不出意外，自動駕駛汽車肯定能避免坦普市的悲劇，畢竟傳感器和計算機比人類反應要快得多。隨著 Uber 自動駕駛測試車致命事故的細節(jié)逐漸浮出水面，許多專家稱這起事故完全可以避免。
Waymo CEO 還專門出面補刀稱自家技術完全可以避免事故的發(fā)生，畢竟它們的司機每 5600 英里才需要“碰”下方向盤，而 Uber 的司機可要忙得多(每 13 英里)。
在亞利桑那的道路上，Waymo 自動駕駛汽車與 Uber 自動駕駛汽車的差別比無人和有人駕駛汽車之間的差別更為重要。
不過，為了吸引更多公司來亞利桑那研究、測試和部署自動駕駛車輛，州長 Doug Ducey“網(wǎng)開一面”，在沒有嚴格監(jiān)管的情況下就放它們上路了。
解決這些問題可不能靠揣摩電車難題的場景。如果放在 Uber 這起致死事故中，就意味著測試車第一時間看到了 Hertzberg，這時它才能相應做出選擇，決定救路人還是保司機。
此外，要進入電車難題的討論范圍，還要假設自動駕駛汽車足夠可靠且安全功能有保證，即在電車難題中扳道的杠桿沒有因為銹蝕而動彈不得。不過，Uber 這次事故以上兩個假設都不成立。
其實 Foot 已經(jīng)預料到了場景中上下文缺失的問題。“在現(xiàn)實中，”她寫道。“你很難說那位孤零零被綁在鐵道上的人就必死無疑。也許他能找到個立足點并在電車通過前救自己一命呢。”
想要一個個探索完這些無限的可能，一種方式就是一遍遍的實驗并從公眾的反應中搜集模式，這也是“道德機器”的方法，就像現(xiàn)在最火爆的機器學習一樣，一個龐大的數(shù)據(jù)集必不可少。不過，另一種方式則是在最合適的道德背景下考慮特定的問題。
Foot 還提供了一個典型例子，相比電車難題，它與 Uber 的致命車禍有更多共同點。Foot 將場景搬到了醫(yī)院，假設醫(yī)院有五個病人，他們的疾病只有一種特殊的氣體能治好，不過在使用時這種氣體釋放的毒物卻飛進了旁邊的病房，而該病房中的病人都無法移動。
在這樣的情況下，其效果確實很像經(jīng)典的電車難題，但在許多結論上又不是那么明顯。這不僅是因為目的和可預見的效果有所不同，還因為避免造成傷害的道德欲望工作原理不同。
在電車難題中，駕駛員根本別無選擇，無論他走出哪一步，都會帶來慘痛的后果，而在醫(yī)院這個例子中，醫(yī)生則面臨一個沖突的選擇，他要么施以援手，要么禍害其他病人。
事實上，Uber 測試車面對的情況更加棘手，因為各方（Uber、安全司機和政府）對車輛的狀態(tài)都沒有一個準確的認識。這讓 Uber 致命事故的道德情景與未來車輛傷亡撇清了關系，它讓人更多的聯(lián)想到政府監(jiān)管、公司披露和交通政策。
別忽視了道德的復雜性
如果 Uber 這起事故成了道德哲學中能同時滿足技術人員、市民和政策制定者需求的先例，那么這場災難可能會成為道德運氣的代表。這里還要舉一個例子，假設一名喝醉的男子晚上冒險開車回家并最終安全到家，那么在同樣的情況下也有可能發(fā)生事故。
一般來說，后者的罪責會更大，但其實兩者都有錯在先，唯一的不同就是結果罷了。
由此看來，Uber 的致命車禍并不代表價值中立或理直氣壯的犧牲一位路人，以保全未來乘客的安全。相反，它強調(diào)了這樣一個事實，那就是積極結果(如更安全的車和行人等)很容易成為自動駕駛汽車道德運氣的功能。
道德運氣還為自動駕駛汽車提供了其他途徑的思考。在自動駕駛汽車上，我們很難確定它們的自主行為。
那么，Uber 司機清楚的知道且理解自己一舉一動可能造成的后果嗎?人類能切入機器操作，但又不進行積極操作嗎?亞利桑那的邀請是否能幫 Uber 減輕罪責呢?這些問題現(xiàn)在都成了事故的焦點，無論是在亞利桑那還是其他地方。不過，對 Elaine Hertzberg 來說，這恐怕只能算一個無用的安慰。
這篇文章的目的不是要責怪或者贊美誰，也不是要慶?；虬У孔詣玉{駛汽車的未來。相反，它在呼喚更多的道德復雜性，這是解決現(xiàn)在和將來自動駕駛汽車問題的必需品。
所謂的倫理并非將一個簡單的微積分套在某種情況上，當然也不是人類有關某個典型案例的意見集合。當工程師、批評家、記者或普通人認為電車難題才是自動駕駛汽車的終極拷問時，他們就自動放棄了對更為復雜道德情況的思考。
對哲學家來說，雖然實驗是考慮未知結果或重新考慮已經(jīng)接受觀點的好方法，但它也只是一種思考工具，并非現(xiàn)成的菜譜。
電車難題讓人們產(chǎn)生了誤解，以為自動駕駛汽車是已經(jīng)可靠存在的成熟技術，某些假設的抽象道德行為可以針對性解答了。事實上，我們離真正的自動駕駛時代還有距離。
與此同時，市民、政府、汽車制造商和科技公司必須繼續(xù)探索，找到更多有關自動駕駛汽車的復雜道德后果的問題。
是時候踩下剎車了，在電車難題碾碎所有人的夢想之前。
