如果人工智能系統(tǒng)必須做出獨(dú)立的決定，而這些決定對(duì)人類來說可能意味著生死，會(huì)發(fā)生什么？
長(zhǎng)期以來，流行文化描繪了我們對(duì)人工智能的普遍不信任。在2004年的科幻電影《我，機(jī)器人》中，德爾史普納在一次車禍中被人救起后，對(duì)機(jī)器人產(chǎn)生了懷疑，一名12歲的女孩溺水身亡。他說：我是順理成章的選擇。它計(jì)算出我有45%的生存機(jī)會(huì)。莎拉有11%的機(jī)會(huì)。那是某人的孩子。11%已經(jīng)足夠了。人們會(huì)知道這一點(diǎn)。
與人類不同，機(jī)器人缺乏道德良知，遵循編入其中的道德。同時(shí)，人類的道德是高度多變的。在任何情況下，正確的做法取決于你問誰。
為了讓機(jī)器幫助我們充分發(fā)揮它們的潛力，我們需要確保它們的行為符合道德標(biāo)準(zhǔn)。那么問題就變成了：AI開發(fā)者和工程師的道德如何影響AI的決策？
自動(dòng)駕駛的未來
想象一下全自動(dòng)自動(dòng)駕駛汽車的未來。如果一切按預(yù)期進(jìn)行，早上通勤將是一個(gè)機(jī)會(huì)，為那天的會(huì)議做準(zhǔn)備，學(xué)習(xí)新聞或坐下來放松。
但是如果出了問題怎么辦？汽車接近紅綠燈，但突然剎車失靈，電腦不得不在瞬間做出決定。它可以突然轉(zhuǎn)向附近的電線桿，殺死乘客，也可以繼續(xù)前進(jìn)，殺死前面的行人。
控制汽車的計(jì)算機(jī)只能訪問汽車傳感器收集的有限信息，必須根據(jù)這些信息做出決策。雖然看起來很戲劇性，但我們離面臨這樣的困境只有幾年的時(shí)間了。
自動(dòng)駕駛汽車通常提供更安全的駕駛，但事故將不可避免，尤其是在可預(yù)見的未來，這些汽車將與人類駕駛員和其他道路使用者共享道路。
