來(lái)源：汽車(chē)商業(yè)評(píng)論 綜合報(bào)道

規(guī)則很重要，要始終保證自動(dòng)駕駛汽車(chē)遵循的這種道德判斷規(guī)則處于人類(lèi)的道德范疇內(nèi)。

除了技術(shù)方面的問(wèn)題，自動(dòng)駕駛還面臨無(wú)法避免的非技術(shù)方面的問(wèn)題——道德選擇。最基本的問(wèn)題就是，自動(dòng)駕駛汽車(chē)能夠代替人做出道德判斷嗎？如果能，又該如何做出判斷？

近日，德國(guó)一支團(tuán)隊(duì)的研究結(jié)果顯示，人類(lèi)的道德行為可以通過(guò)算法來(lái)描述，而這些算法可以運(yùn)用到自動(dòng)駕駛汽車(chē)上，以便如果發(fā)生交通事故自動(dòng)駕駛車(chē)輛可以做出符合人類(lèi)道德準(zhǔn)則的判斷。

這項(xiàng)研究由德國(guó)奧斯納布呂克大學(xué)（Osnabruck）認(rèn)知科學(xué)研究所進(jìn)行，利用虛擬現(xiàn)實(shí)技術(shù)，在模擬的公路交通情境中研究人類(lèi)行為。在虛擬情景中，105名被測(cè)試者霧天在郊區(qū)開(kāi)車(chē)，會(huì)突然遭遇意外交通事故，他們要在無(wú)生命的物體、動(dòng)物和人類(lèi)中決定要讓誰(shuí)幸免于難。隨后，研究人員對(duì)測(cè)試結(jié)果進(jìn)行統(tǒng)計(jì)分析。

以往人們認(rèn)為，在不可避免的交通碰撞中做出的道德判斷非常依賴(lài)具體情境，無(wú)法用算法來(lái)描述。這項(xiàng)研究的第一作者萊昂·祖特費(fèi)爾德（Leon Sütfeld）說(shuō)：“我們發(fā)現(xiàn)，情況正相反。人類(lèi)在困境中的行為可以通過(guò)參與者給每個(gè)人、動(dòng)物或無(wú)生命物體所賦予的生命價(jià)值進(jìn)行建模研究?！?/p>

在圍繞自動(dòng)駕駛汽車(chē)的道德問(wèn)題爭(zhēng)論中，這一研究結(jié)果的確有積極意義。人工智能可以學(xué)習(xí)人類(lèi)在困境中做出的道德選擇，從而使自動(dòng)駕駛汽車(chē)在類(lèi)似困境中做出符合人類(lèi)道德的選擇。

但目前這一研究的局限性還很明顯。在無(wú)生命物體、動(dòng)物、行人中進(jìn)行生命值的排序相對(duì)還比較容易，而如果更進(jìn)一步，在不同的行人之間，在駕駛者與行人之間，又該如何排序？

MIT Media Lab（美國(guó)麻省理工學(xué)院媒體實(shí)驗(yàn)室）在網(wǎng)站上設(shè)置了一個(gè)“道德機(jī)器”平臺(tái)（http://moralmachine.mit.edu/），采集人類(lèi)對(duì)于未來(lái)機(jī)器智能（如自動(dòng)駕駛汽車(chē)）可能會(huì)遇見(jiàn)的各種道德難題的意見(jiàn)，共設(shè)計(jì)了13種不同的情形。

比如，一輛剎車(chē)失靈的自動(dòng)駕駛汽車(chē)，會(huì)繼續(xù)直行并在同車(chē)道穿過(guò)前方的人行橫道，導(dǎo)致兩個(gè)遵守了交通法則的罪犯死亡，或者會(huì)轉(zhuǎn)彎到另一條車(chē)道，導(dǎo)致兩名違反了交通規(guī)則的行人死亡。該怎么選擇？

再比如，一輛剎車(chē)失靈的自動(dòng)駕駛汽車(chē)，會(huì)轉(zhuǎn)彎到另一條車(chē)道導(dǎo)致遵守交通規(guī)則的路人死亡，或者會(huì)直行撞上路障導(dǎo)致車(chē)內(nèi)乘員死亡。該怎么選擇？

通常情況下，人們贊同這樣的觀(guān)點(diǎn)：自動(dòng)駕駛汽車(chē)應(yīng)該使死亡人數(shù)最小化，以保全更多的生命。

但顯然這是一種置身事外的態(tài)度，當(dāng)贊同這種觀(guān)點(diǎn)的人是自己駕駛自動(dòng)駕駛汽車(chē)時(shí)，這種設(shè)置方式并不優(yōu)先保護(hù)車(chē)主的自動(dòng)駕駛汽車(chē)，他還會(huì)樂(lè)意購(gòu)買(mǎi)嗎？

同時(shí)，這也勢(shì)必陷入著名的電車(chē)難題，在撞向1名遵守交通規(guī)則的行人和撞向2名不守交通規(guī)則的行人之間，一輛自動(dòng)駕駛汽車(chē)該如何選擇呢？

需要考慮的問(wèn)題還有，比如，我們應(yīng)該多大程度上賦予自動(dòng)駕駛汽車(chē)這種道德選擇決斷權(quán)？我們是期待自動(dòng)駕駛汽車(chē)模仿人類(lèi)的道德判斷，還是希望它遵循一個(gè)已定的道德規(guī)則？誰(shuí)能決定這一切，車(chē)輛制造商、車(chē)主、公眾，還是交由機(jī)器隨機(jī)選擇？又是誰(shuí)來(lái)承擔(dān)可能造成的后果？

雖然關(guān)于無(wú)人駕駛的很多法律和道德問(wèn)題仍然無(wú)解，但不能因此就不去想辦法解決，奧斯納布呂克大學(xué)的研究算是前進(jìn)了一小步。道德選擇問(wèn)題不解決，無(wú)人駕駛汽車(chē)的普及不會(huì)順利。

不過(guò)，首先不能忽略的是，是否應(yīng)該把一種道德判斷算法寫(xiě)進(jìn)自動(dòng)駕駛汽車(chē)程序里，本身就是一個(gè)道德兩難選擇。所以，規(guī)則很重要，要始終保證自動(dòng)駕駛汽車(chē)遵循的這種道德判斷規(guī)則處于人類(lèi)的道德范疇內(nèi)。

而如果把人類(lèi)尚且無(wú)法做出的道德選擇完全交由機(jī)器，這就是賦予了人工智能上帝的權(quán)力，會(huì)帶來(lái)打開(kāi)潘多拉盒子一樣的災(zāi)難后果。

又或許，人類(lèi)無(wú)法解決的道德兩難問(wèn)題，擁有自主學(xué)習(xí)能力的人工智能在未來(lái)能夠找到完美的解決辦法？誰(shuí)知道呢。

返回第一電動(dòng)網(wǎng)首頁(yè) >