出事了，撞誰(shuí)？自動(dòng)駕駛車(chē)面對(duì)的道德困境
01 自動(dòng)駕駛中的道德難題
我們來(lái)做一個(gè)思維實(shí)驗(yàn)。
假定某一天，你坐在自動(dòng)駕駛汽車(chē)?yán)铮诟咚俟飞巷w馳。
這時(shí)，你發(fā)現(xiàn)周?chē)擒?chē)。
突然，一個(gè)又大又沉的物體從你前方的卡車(chē)上掉下來(lái)，你的車(chē)來(lái)不及剎車(chē)來(lái)避免碰撞。
問(wèn)題1：因此它必須做一個(gè)決定
- 繼續(xù)往前，然后撞在這個(gè)物體上
- 迅速左轉(zhuǎn)撞向一輛SUV
- 迅速右轉(zhuǎn)撞向一輛摩托車(chē)
你的車(chē)應(yīng)該以你的安全為重，而撞向摩托車(chē)嗎？
還是為了降低對(duì)他人的危險(xiǎn)，不轉(zhuǎn)彎，即使這樣會(huì)撞上巨大的物體，并給你帶來(lái)生命危險(xiǎn)犧？
或是選擇折中，撞向SUV，因?yàn)镾UV的安全性能較高？
自動(dòng)駕駛汽車(chē)應(yīng)該怎么做呢？
這種情況下，如果我們掌握著方向盤(pán)，不管我們?cè)趺醋觯紩?huì)被理解為瞬間的反應(yīng)，而不是經(jīng)過(guò)深思熟慮的決定。我們是在驚恐之下做出本能反應(yīng)，并未深謀遠(yuǎn)慮或懷揣惡意。
但是如果是程序員要指示這輛車(chē)，在未來(lái)的特定情況下做出某一決定，這聽(tīng)上去有點(diǎn)像蓄意謀殺。
不過(guò)話說(shuō)回來(lái)，自動(dòng)駕駛汽車(chē)預(yù)計(jì)可以大大減少交通事故和死亡率，因?yàn)檫@中間避免了人類(lèi)會(huì)犯的錯(cuò)誤，而且還有很多其他的潛在好處，比如不再擁堵的路面，汽車(chē)尾氣排放的減少，以及沒(méi)有了開(kāi)車(chē)的浪費(fèi)時(shí)間和壓力。
02 如遇事故，自動(dòng)駕駛車(chē)如何編程應(yīng)對(duì)
但是交通意外肯定還是會(huì)發(fā)生，當(dāng)它們發(fā)生時(shí)意外的后果可能在很久以前，就已經(jīng)被程序員或政策制定者設(shè)定好了。
這些決定可不好做，我們傾向于提供籠統(tǒng)的指導(dǎo)決定的原則，比如最小化傷害。但是這很快也會(huì)導(dǎo)致道德上模棱兩可的決定。
再舉個(gè)例子，假定前面的情況一致。但此時(shí)，在你的左邊騎摩托車(chē)的人戴著頭盔，而右邊騎摩托車(chē)的人沒(méi)戴頭盔。
問(wèn)題2：如果必須要選擇，你的自動(dòng)駕駛汽車(chē)應(yīng)該撞哪個(gè)？
- 戴著頭盔騎摩托車(chē)的人
- 沒(méi)戴頭盔騎摩托車(chē)的人
如果說(shuō)撞那個(gè)戴著頭盔的人 ，因?yàn)樗拇婊盥矢撸汶y道不是在懲罰更負(fù)責(zé)任的騎摩托車(chē)者嗎？
反之，如果說(shuō)撞那個(gè)沒(méi)戴頭盔的人，因?yàn)椴淮黝^盔是不負(fù)責(zé)任的行為。但是這樣你就徹底違反了，原先的“最小化傷害”的原則，自動(dòng)駕駛汽車(chē)現(xiàn)在成了在主持公路正義了。
道德的問(wèn)題還要復(fù)雜得多，兩種情況下其背后的設(shè)計(jì)都是基于某種目標(biāo)算法。換句話說(shuō)，它系統(tǒng)地傾向或者歧視某一類(lèi)特定目標(biāo)。
而目標(biāo)車(chē)輛的車(chē)主，就得承擔(dān)這一算法的消極后果。雖然他們自己并沒(méi)有犯任何錯(cuò)，這些最新的科技還引起了其他的道德困境。
問(wèn)題3：如果你從以下兩輛車(chē)中選擇
- 一輛在事故發(fā)生時(shí)，總是試圖拯救盡可能多生命的車(chē)
- 一輛不顧一切拯救你的車(chē)
你會(huì)買(mǎi)哪一輛？
如果汽車(chē)開(kāi)始分析并考慮，車(chē)?yán)锏某丝鸵约八麄兊纳娓怕是闆r又會(huì)怎樣？一個(gè)隨機(jī)的決定會(huì)不會(huì)還是比以“最小化傷害”為原則事先設(shè)計(jì)的決定更好？
誰(shuí)又應(yīng)該做這些決定呢？
程序員？
公司？
政府？
現(xiàn)實(shí)可能跟我們的思維實(shí)驗(yàn)有所出入，但是這不重要。
思想實(shí)驗(yàn)的目的是，對(duì)我們的道德本能進(jìn)行分離和壓力測(cè)試，就像物理世界的科學(xué)實(shí)驗(yàn)一樣。
現(xiàn)在識(shí)別這些道德的急轉(zhuǎn)彎，能幫助我們更好地掌控科技及其道德問(wèn)題的未知之路，并讓我們充滿信心和正義地駛向勇敢、嶄新的未來(lái)。
