手机号
验证码

正在加载验证码......

请先拖动验证码到相应位置

密码
确认密码
已有账号, 立即

已发送密码重置邮件到您的注册邮箱,请立即点击密码重置链接修改密码!

验证邮件24小时内有效,请尽快登录您的邮箱点击验证链接完成验证。若未收到邮件请先确认是否在垃圾邮件中。

查看邮箱

找回密码

手机号
验证码
新密码
确认新密码
没有账号? 立即 注册
Follow us on
@EVOLIFE 公众账号
On Wechat
@爱活新鲜播
On Weibo
@EVOLIFE.CN
On Instagram
Nina@evolife.cn
Mail us
@RSS
Follow our feed
penylo2016/11/17
我跟你说 | 自动驾驶是如何杀人的

“取人性命怎能没有罪恶?”哲学家圣奥古斯丁提出了一个让大伙吃饱饭后纠结的难题。故事的开始是这样的,一位汉子站在铁道边,突然看到1辆失控的电车冲向5个绑在铁轨上的人,只要他扳动开关,铁轨就会进入岔道,扎死另一条铁轨上的1个人,这时候他该选择1个人丧命还是5个人丧命?

16_1391610782
虚渊玄用《Fate/Zero》描述了同样的问题让看客们纠结到脸滚键盘,这场称为“岔道困境”的难题被讨论了将近100年之久。而在现实中同样带来了一大波问题,比如今天要提到的自动驾驶。

selfdriveone

自动驾驶的岔道困境

无人干预的自动驾驶意味着人工智能权限高于人类,系统必须自行判断跟随、刹车、停车命令。但无可避免的是,交通事故概率下降不代表着完全不发生。自动驾驶的伦理道德在于,是否将人命损失减少到最小为最优先判断。道理很简单,当自动驾驶判断刹车失控即将撞上正在穿越人行道的人群,自动驾驶是否有权选择撞向两旁路灯柱,牺牲你自己来挽救更多的人群?仔细想想,这种带自杀功能的自动驾驶还要自掏腰包真的有些不甘心。
landscape-1466704004-self-driving-dil

与之相反,如果保证乘车者的最大利益,自动驾驶对整个社会环境是否会构成新的威胁?来自法国图卢兹经济学院的Jean-Francois Bonnefon团队曾经展开了了一项公众调查,希望通过舆论获得大部分人都能接受的答案。他们的提出的问题如下:如果你正在乘坐的自动驾驶汽车冲向人群,刹车已坏,自动驾驶应该选择撞墙丢掉你的性命还是人群的?

jasqyosijhfrshkbz2vl

不过团队并没有将这个问题抛给没事做嗑瓜子大妈,而是投向数百名负责亚马逊Mechanical Turk工程师,因为技术确定通常先于舆论产生,工程师在无形中其实已经确定了社会趋势。与此同时,为了弱化工程师的主观判断,团队另外提供了更多细节,包括工程师在这场可怕的车祸中扮演的角色,可能是计算机、行人、方向盘还是车里那个可怜的司机。

结果是工程师们同样认为自动驾驶应该追求死亡人数的最小化,但这场讨论也点到为止,因为随后更多人表示只要他们不开这种车就行。
Millar_Tunnel_ProblemJean-Francois Bonnefon团队的研究可能带来的只有饭后闲谈,美国国家公路交通安全管理局NNHTSA已经展开行动,他们需要自动驾驶功能具备一套自动防故障机制,便于由管理局决定自动驾驶的伦理走向。

更为致命的是,目前自动驾驶的判断精度仍然需要改善,比如停在路上的购物车与婴儿车相仿,系统应该如何正确识别车内是否有生命。但即使判断精度提高也并不能帮助自动驾驶解决伦理问题,在工程师习惯于追求利益最大化、伤亡最小化的判断理念下,传感器越多、人工智能越高级、面部识别软件越进步,车内的乘坐者则会越容易成为最大的受害者。
20141104-web-summit-chris-gerdes-stanford-001自动驾驶决策也进一步推进了伦理判断的透明化,目前汽车厂商的编程、碰撞设计优化是被严格保密不被三方获知,但自动驾驶一旦需要执行一套公开的标准,人们对自动驾驶伦理判断的质疑则愈发明显。也正因为如此,厂商们反而更希望对自家的自动驾驶判断过程保密,除了避免竞争对手和黑客窥探,也能维护自身利益。但有趣的是这个期望与NHTSA可能参与接管自动驾驶自动防故障机制的观点相违背,让人十分纠结。
autonomous-driving-2

最后:问题又来了

把利益最大化几乎成为了每一个参与讨论者的结论,选择牺牲一人的结果获得了多数票,但我们只需要稍微把岔道困境的场景转变一下,问题再次袭来。在一所医院中有5个急需救治的病人,他们各需要1个不同的器官救命,这时候1个身体健康只是获得了小感冒的病人走进医院,医生能否有资格将这个可怜的小感冒同学大卸八块让5个病人恢复健康?

18b

好了,别多想,这篇文章看起来有点暴力但没有任何人实际受伤,而你更大的概率是被绑在那铁轨上的5人之一,或者5个病人之一罢了。

全文完
文章来自:爱活网
分享至: 0
了解更多

发表评论

全部评论 7条
  1. 匿名:

    其实,如果刹车坏了,厂商要是有责任就要负全责。没什么好纠结的,首先保护乘客,再确定路面上行人使损害最小化。

    1. 匿名:

      无论这种情况怎么发生的,自动驾驶只要造成的伤亡比人工驾驶少就算进步。

      1. 匿名:

        详见刑法上的期待可能性原理。这里的自动驾驶我认为是驾驶者意志、操作的替代。

        1. 匿名:

          看来购买前只能与车厂签约表示愿意承担车厂算法责任了

        2. 匿名:

          购买等于确认厂商算法,以后买车要小心了

  2. 匿名:

    这还不简单,整个选项 让每个司机自己选自己负责就好了

    1. 匿名:

      未来人肉开车一定是违法的

评论
真的是没有最丑!只有更丑·····
光叔叔 2020/04/02
还以为Q5也快了,结果是马坎换平台。
带就不 2020/03/19
石研究员真的是……唉……
KALOL 2020/02/13
galaxy z不支持5G,我要死了!!
KALOL 2020/02/12
版权 © 2017 爱活网 Evolife.cn 科技进化生活 [沪ICP备12022400号]
版权 © 2017 爱活网 Evolife.cn 科技进化生活
[沪ICP备12022400号]