本文转载自雷锋网。如果不慎重对待AI，它可能会成为未来人类的终结者。钢铁侠马斯克不止一次在公共社交平台上表达过对人工智能的担忧。然而，并非所有技术领导者都对AI持悲观态度。贝索斯、扎克伯格等人曾批评马斯克的人工智能威胁论。扎克伯格认为，推广AI技术是为了让世界运转更有效率，帮助人们生活得更好。虽然是事实，但马斯克的担忧并非空穴来风。可以看到，近年来，人工智能正以超乎想象的速度落地各行各业，如自动驾驶、仓储物流、信息安全等。然而，在这些行业成功案例的背后，也发生了不少AI的“翻车”事故。根据最新的人工智能事故数据集AIID（AIIncidentDatabase）显示，工业应用中涉及人工智能的翻车事故已超过1000起，涉及78个不同类别。https://incidentdatabase.ai/在这些事故中，有的可能只是一个玩笑，有的却对人类造成了实质性的伤害，或者彻底为国家埋下了隐患。此外，可以看到，特斯拉、谷歌、微软、亚马逊、苹果等有影响力的科技巨头也频频出现在这份“翻车”名单中。“自动驾驶”翻车频发从榜单来看，自动驾驶是AI“翻车”事故多发、影响严重的领域。包括特斯拉、优步等大型车企，都曾发生多起伤亡交通事故。就在上个月，特斯拉还因为险些出事登上了微博热搜。当天，正在高速行驶的特斯拉ModelS的玻璃天窗突然脱落，向后飞去。几次翻身后，差点撞到后面的车辆。随即，特斯拉官博回应称，“车辆已在第三方授权车身喷涂中心更换了车顶玻璃，将对此事展开详细调查。”不少网友并不买账，认为“第三方也是特斯拉授权的，这是明显的甩锅行为”。事实上，近年来，特斯拉频发的交通事故已经让部分用户失去了信任。虽然大部分事故主要是司机违章驾驶造成的，但也有不少是技术问题引起的，尤其是自动驾驶系统。在榜单上，影响最大的是2018年加州发生的一起交通事故。3月23日，距离优步因自动驾驶系统故障导致亚利桑那州一名行人死亡不到一个月后，特斯拉再次因自动驾驶系统引发致命事故。一名38岁的苹果工程师在山景城101号高速公路上高速行驶的ModelX撞上了路中间的混凝土护栏，当场身亡。https://futurism.com/officials-tesla-model-x-autopilot-killed-driver经调查发现，工程师在撞到隔离墙前启动了ModelX的自动驾驶系统。特斯拉此前曾表示，其自动驾驶功能可以保持速度、变道和自行停车。在这次事故中，自动驾驶系统没有工作。特斯拉解释称，之前隔墙已经损坏，系统没有做出正确识别。与此同时，在撞击发生前六秒，系统已经在上方发出了视觉和听觉警告。但很明显，仅仅六秒的时间不足以让司机做出正确的反应。“杀手”机器人机器人是人工智能翻车事故频发的第二大领域。从榜单来看，机器人在医疗、仓储物流等多个场景都出现过负面事故。举个例子：2018年，新泽西州亚马逊仓库的自动机器人不小心刺破了一罐驱蚊喷雾，导致25名工人被送往医院。https://abcnews.go.com/US/24-amazon-workers-hospital-bear-repellent-accident/story?id=59625712据了解，一罐9盎司的防熊喷雾剂被机器人刺破后，大量浓缩辣椒素被释放，导致被困在封闭区域内的80多名工人受伤。虽然事故最终没有造成人员伤亡，但引起了工会部门的高度警惕。在医疗领域，机器人广泛应用于外科手术，根据美国食品和药物管理局的记录，机器人外科医生在2000年至2013年间造成144人死亡和1391人受伤，共发生8061次设备故障。https://www.theregister.com/2015/07/21/robot_surgery_kills_americans/患者伤亡原因包括动作不当、自发断电、电火花灼伤、机器人碎片转移到患者体内等，这些故障发生了10次与其他手术相比，在头部、颈部和心胸外科手术中更常见。此外，大型科技公司微软在AI应用方面也发生过翻车事件。Tay是微软于2016年推出的一款AI聊天机器人。据微软称，Tay的智能对话系统可以通过“随意有趣的聊天”学习与人类互动。https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist但推出后不久，Tay就开始在推特上发布各种种族歧视、性别歧视和言论。Tay甚至将女权主义称为“邪教”和“病毒”，并指出“性别平等=女权主义”。微软立即删除了这些言论，并对Tay的公共数据集进行了过滤和清理。尽管这一事件并未在女权主义和种族敏感的美国引起轩然大波，但它表明，即使是全球领先的科技公司微软，在人工智能的应用上也需要更加谨慎。此外，谷歌2017年推出的AI情感分析工具CloudNaturalLanguage也曾遭遇种族歧视。轻松破解“FaceID”FaceID是人脸识别技术应用最广泛的场景之一。这项技术的目的是加强对手机个人信息的保护，但根据榜单中的报道，这项技术在2017年就已经被轻松破解。来自德国的研究团队Bkav表示，他们可以轻松解锁苹果的Face带有普通材料制成的口罩的身份证。据了解，这种面具非常简单，任何人都可以制作。它包括一张由石粉制成的3D人脸（成本约200美元），眼睛上粘有2D图像。https://mashable.com/2017/11/27/apple-face-id-mask-defeated-again/#N3QOEjviHiqW其中石粉可以代替口罩欺骗FaceID得分更高；眼睛是从红外图像打印出来的，这与FaceID本身用来检测面部图像的技术相同。另外，人脸模板也很容易获得，不需要近距离拍摄。当一个人走进房间时，预先设定的不同角度的摄像头系统可以在几秒钟内从远处偷拍照片，然后通过算法将照片制作成3D物体。对此，Bkav还告诫说，没有任何形式的生物特征识别是万无一失的。除上述案例外，榜单还突出了几种关键的“翻车”类型：德国大众工厂机器人杀人亚马逊IA招聘工具存在性别歧视。AI伪造政治领导人的演讲视频YouTube使用AI算法向儿童推荐不健康的内容。更多详情请点击AIID数据集地址：https://incidentdatabase.ai/OneMoreThing最后需要说明的是，不仅仅是AI，任何刚刚推出或正在推出的新技术都可以随着发展，这种翻车事件将会发生。无论人工智能未来会对人类产生什么样的影响，技术发展的趋势是必然的，我们能做的就是不断修正和完善，更加谨慎地对待人工智能。这也是建立AI事故数据集的目的，以警示相关领域的研究人员避免类似事故的发生。
