在未来很长时间里,无人驾驶技术汽车走出道德困境需要更长的时间。人们有时会遇到道德困境,从而不得不面对两难选择。在人工智能越来越发达的今天,机器也会遇到同样的问题。最近,Uber在美国宾夕法尼亚州匹兹堡推出无人驾驶汽车,这是一个令人兴奋的消息。但是,如果无人驾驶汽车面临一种道德困境,它会如何选择,设计者是否已经为它们设计好了应对方式?
例如,假使无人驾驶汽车快要撞上另一辆汽车,那辆车里坐着三个人。它可以转弯闪开,但这样它就会撞上人行道上的三个孩子。
它会如何选择?
巧合的是,谷歌的工程总监Ray Kurzweil本周在奇点大学演讲时为这个问题提供了一个答案:我们不知道。
Ray Kurzweil解释说,“不可杀人”的戒律过于简单。他说,如果有人将要炸毁一幢建筑物或一个城市,那么除掉这个人就是符合道德的。
就无人驾驶汽车来说,他认为有必要进行“道德设计”。他说,艾萨克阿西莫夫(Isaac Asimov)的机器人三法则(Three Rules of Robotics)是一个很好的示范。
这三条法则是:
1.机器人不得伤害人类,也不得因为不作为而使人类受到伤害。
2.机器人必须服从人类的命令,除非这样做违背一条法则。
3.在不违背一条和第二条法则的情况下,机器人必须保护自己。
Ray Kurzweil承认,在无人驾驶汽车的道德品性方面,他现在完全没有现成的答案。“我要考虑更长的时间。我还没有做过这种分析。”他说。
谷歌的首席工程师Andrew Chatham认为,当无人驾驶汽车面临两难选择时,“答案差不多总是‘踩刹车’。”他承认,这可能并不总是正确的答案。但他表示,如果连踩刹车都不是一种正确的应对,那就是面临极端情形了。
但是,这个世界上不是充满了极端情况吗?
美国麻省理工学院的研究人员最近创建了一个名为道德机器(Moral Machine)的调查平台。此举意在调查人们希望无人驾驶汽车在面临道德困境时如何选择。
“研究人员不仅想知道人类会做出怎样的选择。他们也希望‘清楚地了解人类如何看待在道德困境下作出了某种选择的机器智能’。”
这似乎是相当明智的。目前还不清楚该公司是怎样处理无人驾驶汽车的“道德设计”问题的。其实我们人类每时每刻都在做选择,人的一生甚至可以说是在不断的选择中度过的,人有时尚不能完全做出正确地选择,更何况是机器,无人驾驶技术未来要走的路还很长。
转自:网易科技