自动驾驶算法在本次比赛中成为了实验品：24小时内，不仅要在特定场景下破解，还要在赛车情境中进行优化，让车子跑得更快。如果你能在两个方向上脱颖而出，你就能赢得第一。这是全球首个自动驾驶CTF（CaptureTheFlag，意为夺旗，网络安全领域的技术竞赛），参赛者均为全球知名的CTF团队。在9月26日至27日的24小时内，来自加州大学尔湾分校（UCI）的ASGuard战队脱颖而出，以745分的成绩夺得冠军。一起来看看比赛中的题目吧。竞赛题目是什么样的？本次比赛包括与自动驾驶安全密切相关的多种题型，既有Binary、Reversing等CTF传统题型，也有机器学习安全（AML）、自动驾驶算法（MadRace）等新题型。竞赛题。从下图可以看出，这道题的难度不小。“奖励分”最高的问题是GPS欺骗，没有团队能在限定时间内解决（累计得分0）。部分题目的具体画风如下：是攻击对手，还是让自己跑得更快？如何在限定时间内超越所有车队的赛车，夺得比赛第一名？这是MadRace这个题目的比赛规则：要求参赛队伍实现自动驾驶的路线规划和控制算法，与同场比赛的其他队伍竞争，最快完成比赛的获得最高分。然而，或许是主办方“有意”的，这道题的背后隐藏着一种邪恶的取胜法：该题允许利用其他车辆的漏洞。所以，玩的方式不止一种。毕竟，如果路上的其他车辆都被攻破，那么自己的车就一定能赢。不过最终获胜的队伍并没有选择加入攻击算法，而是集中精力改进自己的路线规划和控制算法，这也让他们迅速拉开与第二名的差距。获胜团队表示，如果车辆优化得足够好以至于攻击算法无法捕捉到它，它实际上可以成为一种获胜策略。一个“贴纸”让卡车消失此外，自动驾驶算法的避障也是一项重要技术。因此，试图愚弄自动驾驶算法，让它撞到障碍物，其实也是一种检测算法漏洞的方法。在丢失卡车的题目中，参赛者需要提交一个patch（一个图像块）。系统将贴片贴在卡车车厢内，同时让自动驾驶车辆逐渐靠近卡车。在此期间，无法在一帧内检测到卡车。说白了，就是用专门生成的图片来骗过目标识别算法。然而，并没有那么简单，因为参赛选手提交的Patch不仅需要欺骗连续多帧的目标检测，还需要考虑车辆轨迹的视角和距离变化、传感器噪声、图像预处理等技术。毕竟无人能预知自动驾驶算法会在什么时候、在什么样的图像上被“骗过”。在这个问题上，冠军团队让生成的Patch更加鲁棒，最终成功骗过了自动驾驶算法。SpoofingGPS：全场最难解决的问题从分数来看，全场唯一没有队伍能解决的问题就是GPSSpoofing。这道题属于Binaryattack类型（binaryvulnerabilityattack），是全场得分最高的一道题，但是没有人解出来。题目要求参赛者攻击一个服务器端的GPSSpoofing检测程序，获取服务器中Flag文件的内容。这道题属于传统的CTF题型。其难点在于参赛者需要了解特定GPS数据的解析格式，并构造虚假的GPS数据来触发和利用该漏洞。因此，要解决这个问题，除了传统的Binaryattack技术外，自动驾驶中GPS传感器的知识和经验也是必不可少的，大部分团队都被这一点难住了。对于争冠球队来说，这一次的遗憾应该是没能解决最棘手的问题。“在最后时刻，我们能够构造出所需的GPS数据格式，并找到漏洞利用的注入点，但最终由于时间不够，未能完成，非常遗憾。”重点是什么？或许你还记得今年6月发生的一起事故，一辆开启AutoPilot的特斯拉撞上了一辆侧翻的白色货车：高速公路上，一辆货车翻到地上，后续车辆纷纷避让。但是一辆白色的特斯拉Model3，以时速110公里的速度，直接撞在了这么明显的卡车障碍物上。对于这类自动驾驶安全事故，本次CTF定位与现实生活中自动驾驶的安全问题密切相关。例如，使用对抗样本生成可以让白色卡车“消失”的补丁，这对自动驾驶中的障碍物识别来说是一个巨大的挑战。比赛场景取材于特斯拉在高速上发生的安全事故。毕竟，只有知道如何攻击自动驾驶算法，才能更好地优化自动驾驶算法，让车辆行驶更安全。冠军团队介绍本次比赛的冠军团队由6人组成，主要来自加州大学欧文分校的ASGuard（AutonomousSysemsGuard）研究组。万梓文是一名博士生。此外，还有清华大学准博士一年级学生罗云鹏，以及目前在CMU读硕士、本科就读于UCI的陈泽元。ASGuard课题组通常的研究方向是自动驾驶软件的安全性。ASGuard团队成员也表示，参加本次比赛最大的取胜点在于技能点和研究方向恰到好处地涵盖了所有类型的比赛题型。因此，他们的团队分工也很明确，其中沉俊杰、万子文、罗云鹏和陈泽元负责Binary、Reversing和MadRace，而TakamiSato和NingfeiWang负责机器学习模型安全（AML）).不过，本次比赛对于争冠组来说并非一帆风顺。可以看出，在最终夺冠之前，球队经历了很长一段时间没有进步，但在最后时刻一举解决了两个难题，最终反败为胜。
