原標(biāo)題：該翻篇了!“電車(chē)難題”不應(yīng)成為自動(dòng)駕駛技術(shù)發(fā)展的緊箍咒
編者按：本文編譯自 The Atlantic，原文標(biāo)題為 Enough With the Trolley Problem。
說(shuō)起自動(dòng)駕駛，許多人就會(huì)不自覺(jué)的聯(lián)想到上世紀(jì) 70 年代誕生的經(jīng)典電車(chē)難題，這個(gè)倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)正在成為整個(gè)行業(yè)不斷前進(jìn)的絆腳石。因此，現(xiàn)在我們是不是該向前看，把這個(gè)問(wèn)題徹底翻篇，不要再用這一道德問(wèn)題來(lái)拷問(wèn)自動(dòng)駕駛汽車(chē)了?
所謂的電車(chē)難題內(nèi)容大致是：一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車(chē)軌道上。一輛失控的電車(chē)朝他們駛來(lái)，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車(chē)開(kāi)到另一條軌道上。然而問(wèn)題在于，那個(gè)瘋子在另一個(gè)電車(chē)軌道上也綁了一個(gè)人?？紤]以上狀況，你是否應(yīng)拉桿?
如果以電車(chē)難題為基礎(chǔ)來(lái)一次發(fā)散思維，你確實(shí)能得到大量難以解答的問(wèn)題。比如，自動(dòng)駕駛汽車(chē)應(yīng)該為了保行人而放棄駕駛員嗎?那么事故當(dāng)頭，老人和年輕人誰(shuí)更應(yīng)該做出犧牲?如果車(chē)輛能獲知附近駕駛員的信息，在車(chē)輛失控前它是否應(yīng)該根據(jù)這些信息進(jìn)行選擇性的碰撞?
事實(shí)上，電車(chē)難題在自動(dòng)駕駛?cè)σ呀?jīng)是個(gè)繞不開(kāi)的話(huà)題，麻省理工的工程師甚至專(zhuān)門(mén)眾籌了一個(gè)“道德機(jī)器”，旨在編寫(xiě)一個(gè)意見(jiàn)目錄，以解決未來(lái)機(jī)器人在特定情況下該作何反應(yīng)的問(wèn)題。
不過(guò)，幾十年來(lái)都沒(méi)有答案的電車(chē)難題其實(shí)本身就有個(gè)漏洞。在為機(jī)器人設(shè)定道德條件時(shí)這個(gè)思想實(shí)驗(yàn)根本不及格，如果硬要把它套進(jìn)這一領(lǐng)域，特別是在制定政策、引導(dǎo)設(shè)計(jì)或回答一些人們關(guān)心的問(wèn)題時(shí)，肯定會(huì)導(dǎo)致一些有關(guān)機(jī)器倫理的危險(xiǎn)且不完整的結(jié)論。
別讓功利主義蒙了眼
哲學(xué)家 Judith Jarvis Thomson 于 1976 年正式提出“電車(chē)難題”，不過(guò)類(lèi)似的思考 1967 年就誕生了，只是當(dāng)時(shí)另一位哲學(xué)家 Philippa Foot 探討的是人的打算與他們預(yù)見(jiàn)的不同。
當(dāng)時(shí) Foot 拿墮胎打了一個(gè)比方，如果產(chǎn)婦難產(chǎn)，是摘掉產(chǎn)婦的子宮放手一搏來(lái)救孩子(屬于“預(yù)見(jiàn)”的范疇，成了皆大歡喜，失敗了就一尸兩命)，還是直接結(jié)束孩子的生命(屬于“打算”的范疇)來(lái)救產(chǎn)婦一命呢?同樣都是面對(duì)產(chǎn)婦難產(chǎn)，不同的處理方式會(huì)帶來(lái)不同的道德結(jié)論。
Foot 當(dāng)時(shí)還引申出了許多類(lèi)似的情況，其中之一就與有軌電車(chē)司機(jī)有關(guān)。另外一個(gè)則屬于法官面對(duì)的難題，她設(shè)想如果法官不判處一位無(wú)辜群眾的死刑，暴徒就威脅要沖擊法庭。第二個(gè)設(shè)想就與電車(chē)難題類(lèi)似，法官要做出選擇，到底是為了正義犧牲多數(shù)人的生命，還是為了多數(shù)人的利益犧牲無(wú)辜者。
經(jīng)過(guò)一番研究，F(xiàn)oot 在論文中表示：“大多數(shù)選擇犧牲扳道員來(lái)拯救更多生命的人，如果碰上法官歪曲黑白剝奪無(wú)辜者生命時(shí)也會(huì)感到震驚。”
于是，她總結(jié)稱(chēng)，一個(gè)人做什么和一個(gè)人允許什么之間是有差別的，因此避免傷害和帶來(lái)幫助之間的差別非常重要。
Foot 的論文雖然簡(jiǎn)短，但給現(xiàn)在的讀者提供了一個(gè)全新的視角來(lái)看待自動(dòng)駕駛汽車(chē)遇到的道德困境，而不是鉆進(jìn)“電車(chē)難題”的牛角尖里爬不出來(lái)。
從某種程度上來(lái)說(shuō)，這是因?yàn)?Foot 遵循了大家所熟知的美德倫理(來(lái)自古希臘亞里士多德)。在美德倫理學(xué)家看來(lái)，一個(gè)人的道德水平甚至可以和生命劃等號(hào)。
不過(guò)，在討論自動(dòng)駕駛汽車(chē)時(shí)，大多數(shù)人會(huì)自動(dòng)忽略美德倫理，他們更重視自動(dòng)駕駛汽車(chē)帶來(lái)的最終結(jié)果。在道德哲學(xué)里，這樣的方式是與美德倫理截然不同的，它的學(xué)名叫做結(jié)果論，而結(jié)果論中有個(gè)著名的分支——功利主義。也就是說(shuō)，秉承這種理論的人在做事前會(huì)首先考慮自己行為可能導(dǎo)致的后果。
眼下，功利主義已經(jīng)成了自動(dòng)駕駛汽車(chē)修辭學(xué)中根深蒂固的思想，而在宣傳時(shí)大家總是會(huì)提到自動(dòng)駕駛汽車(chē)帶來(lái)的全方位安全防護(hù)。
鑒于美國(guó) 2016 年因車(chē)禍喪生的人高達(dá) 3.7 萬(wàn)名且有 94% 都是司機(jī)犯錯(cuò)，因此用可靠的機(jī)器人替換容易犯錯(cuò)的人類(lèi)成了一件有百利而無(wú)一害的大好事。
不過(guò)問(wèn)題是，只關(guān)注結(jié)果會(huì)讓盲目的人們忘記原來(lái)自動(dòng)駕駛汽車(chē)也有缺點(diǎn)。就像 Foot 提出的電車(chē)司機(jī)與法官的案例在道德上不能類(lèi)比一樣，自動(dòng)駕駛汽車(chē)在相同情況下可能也會(huì)造成不同的道德、法律和公民后果。
電車(chē)難題中有些假設(shè)很難成立
最近，Uber 的一輛自動(dòng)駕駛測(cè)試車(chē)就在亞利桑那州坦佩市撞死了 49 歲的婦女 Elaine Hertzberg，當(dāng)時(shí)她正推著自行車(chē)橫跨馬路。在筆者分析了一番有關(guān)這次事故的法律內(nèi)涵后，有些讀者對(duì)我報(bào)以功利主義者的嘲諷。不過(guò)他們不知道的是，美國(guó) 2015 年因?yàn)闄M穿馬路而遭遇車(chē)禍身亡的人數(shù)高達(dá) 5376 人，而新聞可不會(huì)對(duì)這些事故進(jìn)行逐一報(bào)道。
很快，自動(dòng)駕駛汽車(chē)就能減少甚至把行人死亡的情況降為零。如果把這種想法套進(jìn)電車(chē)難題，你就會(huì)發(fā)現(xiàn)軌道變成了時(shí)間，而非空間。雖然犧牲一邊軌道上的那個(gè)人依舊是個(gè)悲劇，但如果它的代價(jià)是拯救數(shù)千人，恐怕也會(huì)變得合乎情理。
問(wèn)題在于，這樣的立場(chǎng)需要假定 Hertzberg 的死與其他不幸的行人一樣。從統(tǒng)計(jì)學(xué)上來(lái)說(shuō)，這能說(shuō)得過(guò)去，但從道德上看，恐怕就不是一回事了。
未來(lái)，如果不出意外，自動(dòng)駕駛汽車(chē)肯定能避免坦普市的悲劇，畢竟傳感器和計(jì)算機(jī)比人類(lèi)反應(yīng)要快得多。隨著 Uber 自動(dòng)駕駛測(cè)試車(chē)致命事故的細(xì)節(jié)逐漸浮出水面，許多專(zhuān)家稱(chēng)這起事故完全可以避免。
Waymo CEO 還專(zhuān)門(mén)出面補(bǔ)刀稱(chēng)自家技術(shù)完全可以避免事故的發(fā)生，畢竟它們的司機(jī)每 5600 英里才需要“碰”下方向盤(pán)，而 Uber 的司機(jī)可要忙得多(每 13 英里)。
在亞利桑那的道路上，Waymo 自動(dòng)駕駛汽車(chē)與 Uber 自動(dòng)駕駛汽車(chē)的差別比無(wú)人和有人駕駛汽車(chē)之間的差別更為重要。
不過(guò)，為了吸引更多公司來(lái)亞利桑那研究、測(cè)試和部署自動(dòng)駕駛車(chē)輛，州長(zhǎng) Doug Ducey“網(wǎng)開(kāi)一面”，在沒(méi)有嚴(yán)格監(jiān)管的情況下就放它們上路了。
解決這些問(wèn)題可不能靠揣摩電車(chē)難題的場(chǎng)景。如果放在 Uber 這起致死事故中，就意味著測(cè)試車(chē)第一時(shí)間看到了 Hertzberg，這時(shí)它才能相應(yīng)做出選擇，決定救路人還是保司機(jī)。
此外，要進(jìn)入電車(chē)難題的討論范圍，還要假設(shè)自動(dòng)駕駛汽車(chē)足夠可靠且安全功能有保證，即在電車(chē)難題中扳道的杠桿沒(méi)有因?yàn)殇P蝕而動(dòng)彈不得。不過(guò)，Uber 這次事故以上兩個(gè)假設(shè)都不成立。
其實(shí) Foot 已經(jīng)預(yù)料到了場(chǎng)景中上下文缺失的問(wèn)題。“在現(xiàn)實(shí)中，”她寫(xiě)道。“你很難說(shuō)那位孤零零被綁在鐵道上的人就必死無(wú)疑。也許他能找到個(gè)立足點(diǎn)并在電車(chē)通過(guò)前救自己一命呢。”
想要一個(gè)個(gè)探索完這些無(wú)限的可能，一種方式就是一遍遍的實(shí)驗(yàn)并從公眾的反應(yīng)中搜集模式，這也是“道德機(jī)器”的方法，就像現(xiàn)在最火爆的機(jī)器學(xué)習(xí)一樣，一個(gè)龐大的數(shù)據(jù)集必不可少。不過(guò)，另一種方式則是在最合適的道德背景下考慮特定的問(wèn)題。
Foot 還提供了一個(gè)典型例子，相比電車(chē)難題，它與 Uber 的致命車(chē)禍有更多共同點(diǎn)。Foot 將場(chǎng)景搬到了醫(yī)院，假設(shè)醫(yī)院有五個(gè)病人，他們的疾病只有一種特殊的氣體能治好，不過(guò)在使用時(shí)這種氣體釋放的毒物卻飛進(jìn)了旁邊的病房，而該病房中的病人都無(wú)法移動(dòng)。
在這樣的情況下，其效果確實(shí)很像經(jīng)典的電車(chē)難題，但在許多結(jié)論上又不是那么明顯。這不僅是因?yàn)槟康暮涂深A(yù)見(jiàn)的效果有所不同，還因?yàn)楸苊庠斐蓚Φ牡赖掠ぷ髟聿煌?/p>
在電車(chē)難題中，駕駛員根本別無(wú)選擇，無(wú)論他走出哪一步，都會(huì)帶來(lái)慘痛的后果，而在醫(yī)院這個(gè)例子中，醫(yī)生則面臨一個(gè)沖突的選擇，他要么施以援手，要么禍害其他病人。
事實(shí)上，Uber 測(cè)試車(chē)面對(duì)的情況更加棘手，因?yàn)楦鞣剑║ber、安全司機(jī)和政府）對(duì)車(chē)輛的狀態(tài)都沒(méi)有一個(gè)準(zhǔn)確的認(rèn)識(shí)。這讓 Uber 致命事故的道德情景與未來(lái)車(chē)輛傷亡撇清了關(guān)系，它讓人更多的聯(lián)想到政府監(jiān)管、公司披露和交通政策。
別忽視了道德的復(fù)雜性
如果 Uber 這起事故成了道德哲學(xué)中能同時(shí)滿(mǎn)足技術(shù)人員、市民和政策制定者需求的先例，那么這場(chǎng)災(zāi)難可能會(huì)成為道德運(yùn)氣的代表。這里還要舉一個(gè)例子，假設(shè)一名喝醉的男子晚上冒險(xiǎn)開(kāi)車(chē)回家并最終安全到家，那么在同樣的情況下也有可能發(fā)生事故。
一般來(lái)說(shuō)，后者的罪責(zé)會(huì)更大，但其實(shí)兩者都有錯(cuò)在先，唯一的不同就是結(jié)果罷了。
由此看來(lái)，Uber 的致命車(chē)禍并不代表價(jià)值中立或理直氣壯的犧牲一位路人，以保全未來(lái)乘客的安全。相反，它強(qiáng)調(diào)了這樣一個(gè)事實(shí)，那就是積極結(jié)果(如更安全的車(chē)和行人等)很容易成為自動(dòng)駕駛汽車(chē)道德運(yùn)氣的功能。
道德運(yùn)氣還為自動(dòng)駕駛汽車(chē)提供了其他途徑的思考。在自動(dòng)駕駛汽車(chē)上，我們很難確定它們的自主行為。
那么，Uber 司機(jī)清楚的知道且理解自己一舉一動(dòng)可能造成的后果嗎?人類(lèi)能切入機(jī)器操作，但又不進(jìn)行積極操作嗎?亞利桑那的邀請(qǐng)是否能幫 Uber 減輕罪責(zé)呢?這些問(wèn)題現(xiàn)在都成了事故的焦點(diǎn)，無(wú)論是在亞利桑那還是其他地方。不過(guò)，對(duì) Elaine Hertzberg 來(lái)說(shuō)，這恐怕只能算一個(gè)無(wú)用的安慰。
這篇文章的目的不是要責(zé)怪或者贊美誰(shuí)，也不是要慶?；虬У孔詣?dòng)駕駛汽車(chē)的未來(lái)。相反，它在呼喚更多的道德復(fù)雜性，這是解決現(xiàn)在和將來(lái)自動(dòng)駕駛汽車(chē)問(wèn)題的必需品。
所謂的倫理并非將一個(gè)簡(jiǎn)單的微積分套在某種情況上，當(dāng)然也不是人類(lèi)有關(guān)某個(gè)典型案例的意見(jiàn)集合。當(dāng)工程師、批評(píng)家、記者或普通人認(rèn)為電車(chē)難題才是自動(dòng)駕駛汽車(chē)的終極拷問(wèn)時(shí)，他們就自動(dòng)放棄了對(duì)更為復(fù)雜道德情況的思考。
對(duì)哲學(xué)家來(lái)說(shuō)，雖然實(shí)驗(yàn)是考慮未知結(jié)果或重新考慮已經(jīng)接受觀(guān)點(diǎn)的好方法，但它也只是一種思考工具，并非現(xiàn)成的菜譜。
電車(chē)難題讓人們產(chǎn)生了誤解，以為自動(dòng)駕駛汽車(chē)是已經(jīng)可靠存在的成熟技術(shù)，某些假設(shè)的抽象道德行為可以針對(duì)性解答了。事實(shí)上，我們離真正的自動(dòng)駕駛時(shí)代還有距離。
與此同時(shí)，市民、政府、汽車(chē)制造商和科技公司必須繼續(xù)探索，找到更多有關(guān)自動(dòng)駕駛汽車(chē)的復(fù)雜道德后果的問(wèn)題。
是時(shí)候踩下剎車(chē)了，在電車(chē)難題碾碎所有人的夢(mèng)想之前。
