过去一年优步无人车致死事故这10个教训不能忘一年后，由它引发的第一起致命车祸仍备受关注。一年前的今天，晚上10:00左右。某个星期天，自动驾驶汽车见证了行业最危急的时刻。伊莱恩·赫兹伯格(ElaineHerzberg)走在亚利桑那州坦佩(Tempe)的米尔大道(MillAvenue)上，在那个决定命运的夜晚，她被一辆正在测试优步自动驾驶汽车技术的沃尔沃XC90意外撞死。Herzberg的死给一场白热化的竞赛蒙上了一层阴影，这场竞赛旨在开发改变世界的技术，这些技术既可以挽救生命，也可以为获胜者创造数十亿美元的收入，改变公众对自动驾驶汽车的看法，同时帮助开发该技术的公司调整他们的产品。内部运作。虽然这个可耻的时刻不会阻止技术向自动驾驶汽车迈进，但它确实创造了一个重??要的时刻，让我们停下来反思这场悲剧是如何发生的，以及我们必须从中吸取什么教训。只有吸取教训，才能避免悲剧再次发生。第1课：这不是一场游戏与其他毁灭性的技术灾难一样，伊莱恩·赫茨伯格(ElaineHerzberg)的死是一连串失败的结果。这些失败的范围从软件本身的质量差，到Uber安全司机培训不当，再到事故现场糟糕的道路设计（这样的例子不胜枚举）。然而，导致赫茨伯格意外身亡的这些失败背后，几乎都有一个因素在起作用，那就是自动驾驶技术的发展被认为是一场“赛跑”，比赛的“赢家”可以获得最大的收益。报酬。这场“自动化竞赛”在很多方面都有缺陷，我们也没有办法彻底解决。但在最基本的层面上，这是由于技术上的偷工减料，例如安全驾驶员培训不足和长时间疲劳驾驶。此外，亚利桑那州的测试计划以极快的速度进行，几乎没有受到优步位于凤凰城的先进技术集团总部的监督。几乎每个人都在推动这场“自动化竞赛”。公司用这项技术筹集更多的风险投资，风险资本家用它来证明他们的投资是合理的，媒体用它作为一个简单的框架来讲述这项新技术的故事，而自动驾驶技术本身也终于开始了自我报道。这是一个引人入胜的叙述，感觉就像是在见证历史的诞生，它暗示着任何人都可以找出谁最有可能成为下一个科技巨头，即使大众并不了解极其复杂的技术本身。就像许多存在危险缺陷的启发式方法一样，一些非常复杂的东西被简化为一个简单的概念，浓缩成关键但基本的问题，比如“如果这是一场比赛，比赛的终点是什么？”要取得什么结果？”但更重要的是，“自动化竞赛”创造了导致Herzberg悲剧性失败的可怕动机。它不惜一切代价奖励研发速度。技术在几乎没有监督的情况下运行，在安全至上的情况下长时间工作，不断增加里程，提高公众对发展计划的认识，并掩盖看似微小的缺陷，以便车辆可以更快地上路进行测试。赫茨伯格的死戏剧化了自动驾驶汽车快速发展的危险，但仍有一小部分人在追求“快速突破发展”模式以获取更多资金，或在人才上脱颖而出的领域中，ElaineHerzberger的死亡风险不会持续，直到开发商、监管机构和媒体都认识到这一点这种心理背后的代价是可怕的。第2课：文化很重要伊莱恩·赫茨伯格(ElaineHerzberg)的死紧随丑陋的Waymo-Uber诉讼之后。在这场诉讼中，Alphabet起诉了其前工程师安东尼·莱万多夫斯基（AnthonyLevandowski），声称他窃取了该公司的激光雷达技术并将其用于优步的自动驾驶汽车项目。诉讼最终裁定Waymo胜诉，但不可否认的是，Uber一些最丑陋的公司文化已经暴露无遗。甚至在最终裁决之前，优步“技术兄弟”的公司文化就受到了不利影响。这起诉讼揭示了从公司到首席执行官特拉维斯·卡兰尼克（TravisKalanick）赢得胜利的“不惜一切代价”的态度和极端傲慢。卡兰尼克的理念是，获胜比遵守规则更重要。Waymo的律师CharlesVeerhoven表示，这种理念似乎深深植根于Uber的企业文化中。在优步的汽车在旧金山至少闯红灯六次后，该公司决定搬到亚利桑那州进行测试。此举迫使加州机动车管理局撤销了Uber的测试许可，并通过了该州一些最严格的自动驾驶汽车测试法规。即使在Kalanick因Waymo的诉讼而被公司解雇并承担事故责任之后，Uber的工程师仍推出了紧急制动系统。该系统本可以避免像Herzberg那样的死亡事故。工程师们希望这样做能给即将上任的首席执行官DaraKhosrowshahi留下深刻印象，即Autopilot平稳可靠，无需急刹车。急躁、逃避监督和操纵的概念都是优步企业文化的核心要素。尽管有很多机会可以重新审视这些理想，但Uber最终成为了一个意想不到的牺牲品。一些自动驾驶汽车开发商现在称赫茨伯格的死是一记“警钟”。但也有人认为，如果起床需要提醒，那么问题就很严重了。在美国，每年有超过35,000人死于车祸。因此，不用说，自动驾驶系统的开发方式必须与移动应用程序或社交媒体网络截然不同。有良心的开发者意识到，安全其实是他们工作中最基本的部分：实现车辆的“自动驾驶”并不需要太多的努力。最困难的部分是确保自动驾驶汽车能够安全行驶。安全是其发展的起点、中间节点和终点。在研发过程中根本没有其他目标。任何从根本上没有这种文化引导的技术开发人员都可能导致致命事故。教训3：人类不善于监督有缺陷的自动化监督。这是一个挑战，因为大多数驾驶都非常无聊。另外，安全驾驶者很容易在心理上产生一种虚假的安全感，而驾驶系统其实并没有那么安全。这正是Herzberg的情况：事故发生时，Uber安全司机RafaelaVasquez正在用手机观看Hulu上的TheVoice，她在夜间开车时查看了手机166次。还在看手机的瓦斯奎兹惊恐地抬起头，才发现赫茨伯格在她没有看路的时候被撞了。在这段视频中，她看到了未来可能存在的恐惧。在完全自主被证明之前，自动驾驶汽车虽然鼓励我们开车时不分心，但无法确保下一个伊莱恩赫茨伯格的安全。对于自动驾驶汽车中的“安全驾驶员”来说，这也不是普遍存在的问题。司机现在接受过严格的培训，并在车辆测试期间有人陪同。但这个问题似乎强调了特斯拉自动驾驶仪司机死亡的原因。现在，特斯拉的“完全自主”系统显然已经开放给一些客户试用，然后才能证明它是安全的。另一家公司似乎也准备在不知不觉中将其客户变成未经培训和无人监督的安全驾驶员。Vasquez本人确实需要为事故承担部分责任，但Uber的责任不可推卸。禁止在没有监督的情况下将人一次留在高度自动化的汽车中10小时。由于完全自动化所花的时间比承诺的要长，因此在提醒司机保持安全意识的同时急于接近完全自动化的诱惑是不可抗拒的。然而，Vasquez惊恐的表情应该提醒每个人这种系统的风险。这无疑让特斯拉客户测试的前景变得不那么明朗。第4课：事故多发的道路使用者需要格外小心CrossMillStreet。尽管如此，大多数自动驾驶汽车的传感器最擅长识别可能在撞击时损坏汽车本身的实体物体。尤其是在夜间，当摄像头尚未发挥应有的作用时，雷达和激光雷达很难自行识别行人和骑车人。事实上，这就是自动驾驶汽车开发商来到亚利桑那州凤凰城等地的原因之一：不仅天气一直很好，而且道路上的行人或骑自行车的人也不像其他城市那么多。一般来说，自动驾驶汽车开发人员认为传感器套件中不能有太多的冗余或多样性，只要覆盖尽可能多的边缘情况即可。但即使在ElaineHerzberg去世后，我们仍然没有看到许多自动驾驶汽车开发人员添加最擅长识别夜间容易出问题的道路使用者的传感器：热成像传感器。丰田研究所表示，其新的传感器套件将包括一个热像仪。当然，其他开发商将不得不效仿，特别是如果自动驾驶汽车要在有大量自行车、行人、踏板车和其他车辆的地区使用。热传感器必须成为自动驾驶汽车的生产标准。通过检测人体热量，热传感器可以识别人，即使他们在电线杆或其他车辆后面，无论是白天还是午夜。坦率地说，令人惊讶的是大多数公司在Herzberg事件后都没有采用热传感器。经验教训5：监管胜过选择优步在加州的测试许可被吊销后，去了亚利桑那州，州长格雷格杜西对自动驾驶汽车公司表示欢迎，甚至嘲笑加州扼杀技术创新。对于一个自由市场的共和党州来说，降低监管壁垒是吸引外国投资到亚利桑那州和提升该州高科技形象的好方法。在Herzberg发生事故之前，在短时间内进行并奏效，可以将亚利桑那州变成自动驾驶测试的主要中心之一。为了应对这起事故，杜西不得不从一个极端转向另一个极端，完全禁止优步汽车在亚利桑那州的道路上行驶。由于与优步在公共安全运动中的合作存在利益冲突，甚至马里科帕县检察官办公室也不得不回避此案。整个情况表明，亚利桑那州的州政府官员一直渴望拉拢自动驾驶公司，这些公司在导致赫茨伯格死亡的一系列事故中发挥了作用。Ducey和亚利桑那州现在是一项价值1000万美元的诉讼的被告，该诉讼试图将Herzberg的死归咎于他们。对于政府官员来说，亚利桑那州的经历是一个严厉的警告，可以避免监管“逐底竞争”。降低对自动驾驶汽车的监管限制的短期优势是诱人的，但长期的死亡风险是巨大的。更深层次的信息：如果你放弃监管，你将面临人身伤害诉讼。主动监管可以主动确保公共安全和负责任的公共道路测试，也可以被动地由救护车（杀死）追逐律师和愤怒的暴民启用。显然，前一种选择更可取。经验教训6：法律责任必须赶上技术。伊莱恩·赫茨伯格(ElaineHerzberg)的死提出了一个社会尚未回答的难题：当一辆表面上是自动驾驶的汽车撞到人时，谁该负责？软件本身是“人”吗？受到与人类司机相同的障碍。权利和限制？责任方是安全驾驶员吗？是公司吗？是监管者吗？这些问题都在赫茨伯格事件后爆发，很难不带感情地客观回答。长期以来，自动驾驶技术一直被视为纯粹的技术问题，而实际上，驾驶是一种激烈的社会活动，受法律、习俗和判例的约束，围绕人类驾驶员展开。该领域的新兴观点是，既然社会有时间赶上技术，它就开始制定规则和原则，在自动驾驶车辆出现问题时分配责任并追究人们的责任。然而，像热成像一样，我们仍然没有看到这些问题的紧迫性。这是第一次致命的自动驾驶事故后人们所期望的关注。虽然对有才华的自动驾驶工程师的需求很大，但对技术娴熟、聪明的律师和政治家的需求同样很大。如果我们希望在未来更好地处理像赫茨伯格这样的情况，至少这些是我们的低要求。第7课：公司高层领导需要倾听在赫茨伯格去世前不到一周，一位名叫罗比米勒的优步员工向优步先进技术集团的高层领导和公司律师发送了一条消息。一封电子邮件警告说，导致赫茨伯格死亡的因素是一个大问题。这封电子邮件的部分内容是：“ATG仍在努力建立一种植根于安全的文化。这些汽车经常发生事故，造成损坏，通常是由于操作员行为不佳或自动驾驶技术本身。两辆汽车受损三月份几乎每隔一天。我们不应该每15,000英里就撞一次东西。屡次违规，不良驾驶很少会迫使汽车被终止。少数司机似乎没有经过适当的审查或正在接受培训”米勒建议大多数主要的AV开发商对当前标准进行一些实际的更改，例如每辆测试车辆中有一个以上的人，并停止为里程数堆积测试里程。行为、授权员工处理系统升级和停飞车队、进行碰撞评估、在ATG团队中更广泛地共享数据等等。回想起来，米勒的电子邮件表明赫茨伯格的死是完全可以避免的。第8课：基础设施很重要自动驾驶汽车开发商不愿意依赖基础设施来开发他们的系统，无论是特定的街道设计还是V2X通信技术。这是可以理解的，因为技术发展迅速，基础设施非常少。与此同时，越来越明显的是，基础设施确实在驾驶安全方面发挥着作用。地方官员需要确保他们的街道不允许自动驾驶汽车与其他交通相撞。伊莱恩·赫茨伯格被车撞到的地方看起来像是一条没有油漆过的人行横道，但它既不是人行横道，也不是穿过米尔大道的特别安全的地方。我们不知道赫茨伯格走上这条路时在想什么，但道路设计所规定的模糊性已被视为事故问题的一部分，并已记录在案以防止进一步的交通混乱。任何考虑邀请自动驾驶车辆上路的城市都应该牢记这一因素，并对车辆将要行驶的所有道路进行详细盘点，以免出现另一场致命的规划混乱。第九课：自动驾驶存在的反对者公众从一开始就对自动驾驶汽车持怀疑态度，但在赫茨伯格事故之后，我们进一步看到公众对这项新技术的信任度下降。对自动驾驶系统的不信任来自四面八方，但与对总统的不信任一样高。在Axiom故事中，总统本人被描绘成“他们永远不会工作”。人们对坐在不受人类控制的汽车中的未来感到恐惧。尽管经常被嘲笑为“勒德分子”，但这种对自动驾驶汽车的恐惧是不争的事实。在恐慌平息之前，自动驾驶汽车开发商和粉丝们不能只是笑。事实上，一些高科技行业的狂妄自大也是赫茨伯格事件等情况的根源，该事件引起了自动驾驶反对者的怀疑和恐惧。这也是该行业的主要文化障碍：科技公司已经习惯于提供强有力的经济激励，让他们能够无视异议、困惑和抵制。随着自动驾驶汽车远未兑现其吹嘘的承诺，公众宣传、教育和沟通将变得比以往任何时候都更加重要。考虑到问题的复杂性和围绕它的混乱程度，消除公众的不安和恐惧也是一项严峻的挑战。但是，即使通过谦逊的教育来展示企业的诚意，也将大大改善科技行业典型的傲慢态度。别的不说，光喊“历史进步站在我们这边”是行不通的，完全把科技带来的担忧抛到脑后。第10课：信任是自动驾驶技术的货币在最基本的层面上，信任关乎长期关系。信任某人或某事意味着知道它会长期存在，知道它想要什么以及它如何运作，并保证它会回应公众的担忧。这就是让亚利桑那州变得如此混乱的原因：降低所有障碍，引入大量优步的自动驾驶汽车，但在赫兹伯格发生事故后，这些汽车立即离开。从一个极端循环到另一个极端是建立信任的相反路径。正如偷工减料以获得几乎不可见的优势（在融资回合之外）会造成不一致并破坏信任。坏的结果终究是坏的。ElaineHerzberg的死是许多不负责任行为的结果，但我们可能面临有人被自动驾驶汽车撞死的情况，但车辆配置本身没有明显问题。无论每个人如何努力防止这种情况发生，预测不良结果的可能性都需要尽可能诚实和透明的测试人员的参与。这不是炒作技术，而是实际交流技术。必须承认，在任何公共道路测试中风险都是不可避免的，但可以在不推翻您认为您对开发商或其公共部门合作伙伴的一切了解的情况下，尽可能清楚地评估和最小化风险。要求自动驾驶开发人员有意识地与公众分享他们的开发动机，而不是就好像他们存在于另一个现实中，通过创造本可以避免的安全风险来创造数百万美元的价值。培养这种信任对于自动驾驶开发人员的未来与创建稳健的预测模型或可靠的路径规划算法同样重要。这是因为自动驾驶汽车最终应该像飞机一样：无论您是波音公司还是空中客车公司，您都想尽一切努力确保您的飞行尽可能安全。由于自动驾驶汽车不会因操控或性能而有所区别，因此汽车开发商唯一需要的适销对路的属性就是客户上车时的信任程度。如果开发商不参与他们经营所在的社区，如果他们不分担道路上的风险，如果他们寻求尽可能少的监督，如果他们偷工减料以追求更高的估值，他们最终会伤害自己，其他的。
