自動駕駛汽車導(dǎo)致的不同事故中選擇誰應(yīng)幸存、誰應(yīng)死亡。該實驗結(jié)果發(fā)表在2018年10月24日《自然》（Nature）雜志上。

幸運的是，這類涉及生死的殘酷選擇在現(xiàn)實中十分少見，而且自動駕駛汽車總體來說更安全，使得這種兩難困境更為罕見。但是，許多哲學(xué)家和工程師都認(rèn)為，自動駕駛系統(tǒng)在日常行車中，應(yīng)該包含針對這種兩難困境的執(zhí)行方案。“我認(rèn)為，在現(xiàn)實中這個關(guān)鍵性問題每天也將多次遇到，只不過不像電車難題這么極端?！奔又堇砉ご髮W(xué)哲學(xué)教授Patrick Lin說。他從事新興技術(shù)倫理學(xué)的研究，與該項實驗無關(guān)。

事實上，現(xiàn)實生活中一些司機已經(jīng)做出了類似的選擇，卻往往沒有意識到。在統(tǒng)計意義上講，每一次加利福尼亞式停車（司機看到停車標(biāo)志并未完全剎住車，而是低速通過該標(biāo)志）、匹茲堡式左轉(zhuǎn)（這是一種駕駛默契，即如果路口第一輛車想要左轉(zhuǎn)，在變綠燈的時候，左轉(zhuǎn)車會搶先于對面直行車先走，但這樣會給直行的行人帶來意外傷害）或者其他沒有把握的駕駛行為都有一定概率剝奪一個人的生命。

“道德機器”網(wǎng)站向用戶展示了一幅漫畫，畫的是一輛汽車沖向人行橫道上的行人。受試者可以選擇突然轉(zhuǎn)向，沖撞其他人群。另一種選擇是沖向混凝土路障，這會導(dǎo)致車內(nèi)乘客死亡。與其他版本的電車問題不同，這是在兩組受害者之間做出直接選擇，而不需要額外想象人被傷害的方式。你有足夠的時間權(quán)衡這兩種選擇。預(yù)設(shè)的受害者在人數(shù)、年齡、性別和其他方面各不相同：可能是拄著拐杖走路的老人，推車嬰兒車的婦女，抑或是提著一袋子錢的小偷。行人也可能闖紅燈，在路上可能還會見到一輛只坐著貓狗的汽車，畢竟這是自動駕駛汽車。

這個網(wǎng)站在2016年6月上線，作者公布了截至2017年12月采集到的數(shù)據(jù)。這個網(wǎng)站主要通過口口相傳，YouTube視頻制作者PewDiePie和jacksepticeye也對網(wǎng)站進行了宣傳推廣。如果想比較自己和他人的決定，受試者必須填寫一份人口統(tǒng)計調(diào)查問卷，約50萬人選擇這樣做。其中主要是男性（男女比例為3：1）和年輕人（18歲最多）。

人類如何作出選擇？

受試者對應(yīng)該采取的措施達成了廣泛共識。他們強烈傾向于優(yōu)先保護人類（而非寵物）、群體（而非個人）、小孩（而非老人）、遵守交規(guī)的人（而非不守交規(guī)、橫穿馬路的人），形象光鮮的上班族（而非衣著破爛的流浪者）、女性（而非男性）、行人（而非汽車中的乘客）、慢跑者（而非身材魁梧的人）。選擇突然轉(zhuǎn)向和按原路線行駛在受試者中各占一半——他們對是否采取轉(zhuǎn)向操作沒有偏向?！斑@是他們最不關(guān)心的問題?！边@研究的其中一位作者、不列顛哥倫比亞大學(xué)Azim Shariff說。

如果是你，你會選擇讓哪一群體生還，過馬路的行人還是車上的乘客？

不同群體、不同國家的人只在強調(diào)他們自身屬性的情況下會出現(xiàn)分歧。例如，有個版本的電車難題是說，電車正朝著躺在軌道上的五人駛來。五個人和列車之前有一座天橋，你可以選擇推落一個人，掉落的人能使電車停下，從而挽救鐵軌上的人，但會導(dǎo)致被推落的那個人會死亡。受試者普遍選擇將男人推落，但男性受試者稍顯不愿意。“不存在這樣道德尺度上的差別。

例如，不存在老年人比年輕人更受青睞的情況，也不存在采取行動者比坐以待斃者更受歡迎的情況。”Shariff說，“只是對于某些國家而言，與其它更優(yōu)先的道德事項相比，這些方向上的道德優(yōu)先級要低一些?！?/p>

例如，在拉丁美洲，年輕人受到最高級別的重視；而在歐洲和北美，受重視程度次之；在亞洲，受重視程度最少。但地理因素并非決定性因素。在重視年輕人的問題上，捷克人和拉美人反應(yīng)程度相近，斯里蘭卡人和西歐人反應(yīng)程度相近。

諸多差異影響道德抉擇

研究人員引入了其他指標(biāo)來評估國家間顯現(xiàn)的結(jié)果差異。例如，研究人員將青年男性收入作為衡量貧富國家的標(biāo)準(zhǔn)。研究發(fā)現(xiàn)，來自較貧窮國家的人不太容易選擇沖撞行人；同樣地，那些貧富差距較大的國家的人傾向于保護衣著光鮮的上班族；那些來自性別平等國家的人對女性更具騎士精神，這也產(chǎn)生了一個奇怪的結(jié)果：在測試的兩難選擇中，全球受試者對優(yōu)先保護女性的偏好已超過半數(shù)，來自性別平等國家的被試者甚至更偏向這一選項。因此，在這場測試游戲中，性別平等的國家實際上在兩難抉擇中，恰恰反映出性別最不平等的現(xiàn)象。

各種條件下人類會作出不同的抉擇

最明顯的分歧不是全世界受試者之間的分歧，而是他們和專家之間的分歧。弗吉尼亞交通研究委員會的研究科學(xué)家Noah Goodall說：“人們會提議一些不道德的行為，比如把保護狗的優(yōu)先級置于保護罪犯之上?！比藗儗﹄娷?yán)Ь硢栴}（以及其他許多問題）的道德本能和在生活中并不一致。在此前的一系列研究中，Shariff和圖盧茲經(jīng)濟學(xué)院的Jean-Fran?ois Bonnefon以及麻省理工學(xué)院媒體實驗室的Iyad Rahwan調(diào)查了近2000人對自動駕駛汽車的看法。

去年，德國交通部采納了一個由14名成員組成的道德委員會的建議，禁止試圖使用性別或年齡差別來解決電車?yán)Ь场！拔以凇赖聶C器’實驗中看到的最大價值在于，這有助于發(fā)現(xiàn)需要解決分歧的關(guān)鍵領(lǐng)域。”Lin說。如果有時間進行反思，大多數(shù)受訪者很可能會同意專家的觀點?！爸劣谌藗冊诰W(wǎng)上游戲測試的傾向是否和現(xiàn)實中的表現(xiàn)相同，我們還不得而知?！盨hariff說。

許多倫理學(xué)家比受試者更能區(qū)分是否采取行動。Lin說：“如果你必須在主動殺死別人（kill them）和被動讓別人死亡（let them die）兩種罪惡之間做出選擇，那么后者的罪惡會稍微輕一些，這就是為什么在電車問題上不采取行動是能被接受認(rèn)可的原因?！彼硎静徊扇⌒袆邮怯芯窒薜模绻谝幻啡撕褪丝椭g該怎么選擇？但調(diào)查參與者考慮選擇最佳實用性也同樣會有局限。在2015年的一篇論文中，Lin提到一個兩難問題：是撞一個戴頭盔的騎車人，還是撞不戴頭盔的？撞擊戴頭盔的人更有可能存活下來。但如果是否戴了頭盔決定你會不會被撞，誰還會選擇戴頭盔呢？事實上，一些騎車人已經(jīng)會借口因為司機傾向去撞有頭盔的人，來給自己不戴頭盔的行為進行開脫。

道德抉擇有待時間考驗

懷疑論者反對說，整個測試過程過于簡單，沒有多大用處。Goodall說：“這些場景看似可能發(fā)生，但實際上難以成立?！彼枋隽艘贿B串不可思議的故障：在步行區(qū)駕駛汽車，以高速公路速度行駛，并且剎車失靈。更糟糕的是，他們假設(shè)駕車人對事件有完備的認(rèn)知并能清楚地預(yù)料到可能出現(xiàn)的所有后果。但通常，我們并非是在沉著的理性認(rèn)知中權(quán)衡利弊、進行操作。代爾夫特理工大學(xué)研究技術(shù)倫理學(xué)的教授Aimee van Wynsberghe說：“盡管作者認(rèn)同這個缺陷，但他們沒有意識到這個缺陷非常致命?！彼J(rèn)為自動駕駛汽車應(yīng)該被限制在專用的高速公路上行駛，在那里他們不需要進行繁瑣的道德計算。

不過，Lin認(rèn)為，這個項目就同其他任何科學(xué)實驗一樣，將問題分解到本質(zhì)，使其更易于處理。他說：“的確，像大多數(shù)的科學(xué)實驗一樣，這個實驗是人為設(shè)計的，但這并不能說明它是無效的?！彪娷噯栴}讓人們討論了幾個有爭議的原則：不采取行動是否等同于采取行動，涉及的人數(shù)是否重要，以及某類生命體是否比其他生命體更具價值?，F(xiàn)在，汽車公司應(yīng)該好好考慮下這些權(quán)衡取舍的問題了?！八麄儠崆耙坏轿迥暌?guī)劃出這些決策。”Lin說，“即便他們真的陷入這種兩難困境，他們比真人反應(yīng)的時間也多得多。”

Shariff說，“道德機器”也可以用來研究機器倫理學(xué)的其他問題，例如法院和假釋委員會用來預(yù)測累犯風(fēng)險的算法。這套系統(tǒng)能提供更為準(zhǔn)確的預(yù)測，有助于降低社會整體犯罪率，減少監(jiān)獄中被關(guān)押的人數(shù)。但如果這種減少在不同種族或其他類別中有明顯差異，則會打破分析預(yù)測的平等性。人們能夠接受這種妥協(xié)嗎？“我們應(yīng)該優(yōu)先考慮它的準(zhǔn)確性，還是應(yīng)該優(yōu)先考慮平等（即使這意味著為了平等而把更多不必要的人關(guān)進監(jiān)獄）？”他補充道。從定義上講，兩難困境并沒有一個簡單的解決辦法，但我們至少應(yīng)該仔細考慮各種選擇，并能夠捍衛(wèi)我們的選擇。