通往自主之路
美国交通部下属的国家公路交通安全管理局(National Highway Traffic Safety Administration,简称NHTSA)采用了美国汽车工程师学会(SAE)的自动化定义,涵盖了从需要人类全权掌控的汽车(0级),到可以完全自动驾驶的汽车(5级),下面是对0 ~ 5级的简单总结。
0级 :[从特斯拉T型轿车(Model T)开始]人们都是这样学会开车的,由驾驶员全权掌控每个系统。但值得注意的是,即使是0级,早在20世纪70年代就有了防制动抱死系统和计算机化的牵引力控制技术。过去你得学会在车辆发生侧滑时踩刹车,这样才能控制好车辆的平衡。20世纪80年代,这两个系统都成了标准化的安全设备。某些功能以人们难以觉察的方式,让汽车逐渐从驾驶员主导变为车辆主导,这算是一个很典型的例子。
1级 :(于20世纪90年代发明,21世纪初开始应用)在这个层级有一个或多个系统来辅助车辆转向或加(减)速,如果你有自适应定速巡航装置、车道偏离警告系统或针对行人的刹车系统,那就算处于这一级了。在这一级,驾驶员还是负责全权掌控汽车,相较于汽车本身的自动化水平,你几乎拥有对所有行为的最终决定权。实际上,在任何一级都是如此,最终决定权始终掌握在驾驶员手中。
2级 :(于1999年发明,2003年开始应用)从这一级起,事情开始变得有意思起来。有的人已经开始使用这一级的汽车了。如果你有一辆特斯拉,一辆可自行在路边侧方位泊车的汽车,或可以在高速公路上自动沿中间车道行驶的汽车,那就已经是第2级了。在这一级,驾驶员的参与度可以适当降低,手脚可以离开方向盘和脚踏板,让汽车根据环境因素进行转向和速度调整,比如根据与其他汽车和交通流的距离,始终保持在车道内。然而,驾驶员仍然需要随时介入,而且汽车最终还是要服从司机的决定。
比如,根据特斯拉的设计,如果司机转向、刹车或按下加速键让车全速前进,那么车辆的自动制动系统(AEB)就会启用,这应该是好事对吧?然而,2017年3月,特斯拉陷入了一场法律纠纷,被控诉其S型轿车和X型轿车(Model X)在没有司机干预的情况下进入了全速前进状态。[14]
奇怪的是,这起诉讼称问题不在于司机是否拥有最终决定权这个根本问题,而是任由一辆汽车加速到全速前进的状态(即便这是计算机错误导致的),却没有启用自动制动系统,所以特斯拉要对因此造成的任何后果负责。这起诉讼比较复杂的根本原因在于,对自动驾驶汽车的合法区域界定非常不清晰。[15] 那么,特斯拉是应该听从司机的命令,不进行自动制动,还是在车犯错误的时候自行纠正?特斯拉认为目前驾驶员是最终的权威,因此应该负大部分责任。但等我们从3级一直看到5级,会发现这个政策并不能一以贯之。
3级 :(已经发明,但目前仅限于实验应用)在这一级,控制权从驾驶员手中大幅度转向了汽车。车里依然需要有驾驶员,但在多数情况下汽车的安全性取决于汽车本身。第3级还有一个“切换”(handoff)的问题,即在汽车无法继续为安全驾驶做出必要的决定时,需要把控制权交还给人类驾驶员。切换问题可能会是超越第3级面临的最大挑战,这个领域的一些专家甚至认为这是一个无法解决的问题,nuTonomy(自动驾驶创业公司)的CEO卡尔·亚涅马(Karl Iagnemma)表示:
这(五个层级)可能是自动驾驶领域比较费解的概念之一,共有5个层级,1级、2级、3级、4级、5级这个理念,暗含了从1到2、3、4是一个自然的渐进,实际上,自动化层级的正确思考方式应该是从1到2,但接下来自然的一步是4,而3级实际上更像是4级诸多特点中一个子集或较小的一部分。为了恰当解决3级的问题,你真正需要的是一个4级系统……对于切换问题目前还没有什么好办法,至少我本人还没想到。而且坦白说,我认为根本就不存在这样的解决方案。
事实上,人类难免会受干扰。系统越完善,人类就越不在意,因为他们对系统更有信心,切换要求就会更少。因此,在面对生死攸关的情形时,被临时召唤的人类就更不可能时刻准备好握住方向盘,所有这些就会导致一场巨大的风暴。系统越完善,对人类驾驶员的要求就越高,而同时也更加不能指望驾驶员经得起这种考验。这意味着你真正需要的是一个可以自动驾驶的系统,可能就是4级所暗含的某些操作,但对于其中连自动化都无法按照定义搞清楚的高难度情形,要依靠人类接手控制绝非易事。
本章将探讨切换造成的灾难性影响,到时会借一个航空领域的例子继续探讨这个话题。
4级 :从这一级开始,汽车的自动化程度真正达到了人类所期待的水平。在这一级,汽车基本可以自行处理它打算做的所有事项,但“打算做”这个概念暗示着汽车在遇到意料之外的情况时,可能会出现很严重的问题,比如,轿车的设计并不适合越野驾驶,它遇到的障碍以及接收到的可视信号,也许会大大超出它的评估能力和驾驶能力。
厂家把这种可接受的条件范围称为汽车的“操作设计领域”(operational design domain,简称ODD)。所以尽管在ODD内是不需要驾驶员的,但如果汽车发现自己被迫驶离道路,或是驾驶员自己想要驾车通过一片草木丛生的地方,到岩石峭壁边俯视太平洋,就完全超出了汽车的O DD,而需要驾驶员接手了。当然了,不难想象不同的汽车会有不同的O DD,一辆悍马(Hummer)也许可以自动驾驶,轻松载你到达悬崖。如果这让你感到有些不安,别担心,我们会在本章后半部分继续探讨。
5级 :现在我们到终点了,这一级的汽车是完全自动化的,至少其表现与人类在任何预知及未知的情境下的表现无异。这里依然还存在一些误解,即到了5级开发出来的自动驾驶汽车,其表现必定要优于人类同行。
目前我们介于2级和3级之间。在人工智能和自动驾驶汽车的发展过程中,这是尤其不稳定的一个阶段。因为在这一阶段,我们必须要确定人工智能和人类驾驶员该如何共存:一方面,在协调分工上对机械而言是一个挑战;另一方面,人们还要面临如何建立信任这个严峻的考验。我们先来看看相对容易解决的机械挑战。
在3级阶段,汽车可以接手,驾驶员不用参与。驾驶员可以自然地放手,不用时刻保持警惕,可以专心地打电话,甚至可以安心地睡着。那么如果汽车需要帮助,该如何通知驾驶员呢?答案很简单,在多数情况下这很难做到。如果情况十分紧急,驾驶员不大可能有足够的时间来评估并快速做出反应。这也是许多自动驾驶汽车厂商想要直接跳过第3级的原因,因为这似乎不是实际会遇到的情况。这种观点并非毫无根据。
想一想,跟新手一起驾车是什么体验,这个第一次驾车的新手可能是你的儿子、女儿或亲戚。你很可能会开车带他们去停车场,然后互换座位,让他们来当驾驶员。你会直接让他们从停车场开到公路上去吗?
当然不会,你首先会让他们试着找一找感觉,与此同时你会观察他们的水平如何。这种做法,用本书的话说就是在观察他们的行为。
最终你让新手驾驶员果断行动起来,开上一条开阔的公路,此处我们希望你仔细思考一下这个过程。你住的地方很可能并不直接连接着高速公路,可能必须要沿着小路,或者经过一座小城市或市中心才能驶上高速。相信你(以及他们自己)一定想过:“考虑到现阶段的技术水平和行为,哪一条才是最有把握的路?”这样想想,你可能会选择挑战最小的路,进入难度最低的公路。
其实你这是在使用直觉数据模型,进而决定哪一条路发生事故的可能性最低,或最不大可能超出司机本人的能力。如果没有这样的路,那么你这位有经验的驾驶员很可能会在途中亲自开一程。
何不用同样的办法来看待自动驾驶汽车呢?利用复杂的交通地图、实时路况、天气条件以及评级系统等来决定某条道路所需的技能组合,自动驾驶汽车可以轻松计算出在前往目的地的途中,选择不同道路会遇到的各种风险的可能性。大多数人都知道,GPS会提供最短或最快路线,以及是否走高速路等选择。那么何不给自动驾驶汽车加一个选项,问你是想要全自动驾驶,40分钟内到达目的地;还是想要半自动驾驶,30分钟内到达目的地?
安德鲁·科里是lvl5的CEO兼联合创始人,该公司利用众包的仪表板摄像头为自动驾驶汽车开发3-D地图,他这样说道:
我们在5级努力做到的,就是认识(自动驾驶汽车)走哪些路线更好,我们所做的数据科学研究和统计调查,都是为了确定哪里的覆盖面最好。你可以把我们的工作比作铺设铁路轨道,如果你有一个好的地图应用软件,就能选择在某些路上让汽车按照3级(在这一级若自动系统要求,人类驾驶员必须时刻准备好接手车辆控制权)
行驶,在其他路上,则可以禁用这一功能。(有地图的话)你就能知道每一条道路的事故发生概率,而且我们会依据数据给出“哪一条路不能走”的科学提示。
这个简单的例子说明,尽管人们很容易把人工智能当作技术霸主,但其实对它更准确的描述应该是一个合伙人(是的,我们称它“人”而不是“物”,有意把人工智能人格化),可以在某种情境下跟我们共同做决定,判断哪种选择最能保证我们的利益。
我们能猜到此时此刻你心里是怎么想的,“运用概率和统计来决定我的命运是个很恐怖的主张”。似乎确实如此,但我们还有别的选择吗?如果是选择待在家还是坐车,那你说的确实一点儿没错,因为选择坐车而卷入一场汽车事故的可能性要比待在室内大得多。不过也不尽然,据统计,美国每年有两万辆汽车撞上了商业建筑。[16]
值得一问的是:哪一种交通方式是最安全的,是由人类驾驶的汽车,人工智能驾驶的汽车,还是两者共同驾驶?答案是,适当结合,具体情况具体分析。如果我们给自己选择的权利,在三者之间灵活搭配,而不是把自己限制在“非此即彼”的答案中,那么在任何时候和任何情况下,我们都可以把风险降到最低。
至此你依旧半信半疑,我们大概也知道原因。这又回到了观念和信任的问题上。我们中开过自动驾驶或半自动驾驶汽车的人较少,对于完全不熟悉的事物所做的决定,人们必然会心存疑虑,这是再正常不过的现象。但是你知道吗?长时间以来,人们对生活中那些复杂程度低得多的技术,给予了充分的信任。0级和1级的汽车已经使用了防抱死制动、牵引力控制、自适应巡航控制、紧急刹车,以及变道提醒等各种计算机控制的功能,对此人们已经习以为常。
迈克尔·弗莱明(Michael Fleming)是Torc Robotics(自动驾驶技术研发公司)的CEO,他与我们探讨了在驾驶员转变为乘客的过程中,他注意到的三种不同层次的体验:
当把乘客带入我们的设备(体验自动驾驶汽车)时,发生了三件事情。一开始乘客坐得笔直,他们满腹狐疑,不确定这是不是真的自动驾驶,有点儿像刚拿到驾照的人坐上车的感觉,不是很确定这辆车接下来要干什么。在第二个阶段,乘客意识到他们和其他驾驶员的水平多么差劲,因为自动驾驶汽车的技术流畅得让人吃惊,它在车道内的(驾驶)表现堪称完美,既不乱插队也没有胡乱摆动。然后到了第三个阶段,在一天快结束的时候人们会感到有些厌烦,因为这样开车实在是太无聊了。所以我们如何让人们经历这三个阶段,让他们更快进入第三个阶段,即开始感到无聊,开始信任这项技术?
我们可以通过另一种交通方式,来更好地说明这一点。人类驾驶员和计算机成功合作的一个的例子就是现代商用飞机。据商用飞机飞行员反映,在驾驶飞机过程中,通常只有7分钟时间是没有借助计算机的辅助的。而据空客的飞行员反映,这样的时间仅有3.5分钟。[17] 需要澄清一点,驾驶过程中没有一项内容是依靠哪怕稍微能与人工智能匹敌的系统来完成的,这里对人工智能的定义同前文一样,即能从经验中学习。今天驾驶商用飞机所用的计算机全都装有一套有限的指令,一旦遇到突发状况,指令处理不了时,飞机的控制权就会回到飞行员手中。2009年6月1日,从里约热内卢途经大西洋飞往巴黎的法航447号航班就遭遇了这种情况。
本书评论