投影仪对汽车技术的乐趣太大了

 
停下来。您可以用投影仪来欺骗特斯拉自动驾驶系统吗?
真的，汽车系统将人的投影图像视为真实的人吗?
您是说Mobileye 630 PRO认为投影的路标是真实的路标吗?
这是一组研究人员的发现，他们展示了欺骗驾驶员辅助系统时可能发生的幻像攻击。
该团队撰写了一篇论文，并提供了有关他们的实验和发现的视频演示。该论文被称为“ ADAS的幻影：对驾驶员辅助系统的幻影攻击”。
作者是Ben Nassi，Dudi Nassi，Raz Ben-Netanel，Yisroel Mirsky，Oleg Drokin和Yuval Elovici。作者单位包括内盖夫的本古里安大学和佐治亚理工学院。他们使用Tesla X型和Mobileye 630 PRO系统进行测试。他们还使用了许多投影图像。其中包括人物形象和街道速度标志。
他们想知道是否可以使系统认为这是现实情况-混淆了系统并对该系统进行了一定程度的控制。 “幻影还可能导致特斯拉Model X(HW 2.5)突然制动。”
一段视频演示显示了由于被检测为人体模型的幻影，汽车如何将速度从18 mph降低到14 mph。
请注意，他们经常使用“幻影”一词-“幻影是一种无深度物体，旨在使ADAS和自动驾驶系统感知该物体并将其视为真实物体。该物体可能是障碍物(例如，人，汽车，卡车，摩托车等) )，车道或路标。” Nassi说。
但是，为什么像特斯拉这样著名的自动驾驶名牌会拥有一个将幻象视为真正障碍的系统? Nassi在其网站的“常见问题解答”部分中解决了此问题。 “我们认为，这可能是’安全胜过遗憾’政策的结果，该政策将视觉投影视为真实物体，即使该物体未被其他传感器(例如，雷达和超声波传感器)检测到。”
假道路线是他们实验的一部分，并且阅读了一条指令，通过假线和幻影车道穿越道路的另一侧。
Gizmodo的亚历克斯·基德曼(Alex Kidman)在周三发表了有关实验的文章。他写道，Mobileye和Tesla系统存在的问题是，研究人员发现图像识别模型可以将幻影对象识别为真实对象。总而言之，当幻影攻击针对先进的驾驶辅助系统(ADAS)和自动驾驶仪时，存在着巨大的感知挑战。
1月28日的视频由Ben Gurion大学的网络安全实验室发布。
Gizmodo说，特斯拉的自动驾驶工具通常被认为是自动驾驶汽车当前的黄金标准。确实，该论文的作者将Mobileye 630 PRO和Tesla Model X HW 2.5视为当今最先进的ADAS和自动驾驶技术。
特斯拉的自动驾驶级别允许有限的，不是完全的自动驾驶：只有在某些情况下，车辆才处于完全控制状态，并会通知驾驶员何时接管。
正如Ars Technica的吉姆·索尔特(Jim Salter)在他的文章中强调的那样：“当然，没有人应该首先让特斯拉在不受监管的情况下自行驾驶，”因为自动驾驶仪并不是全自动驾驶汽车的控制器。
索特(Salter)指出了这一点，以桥接到另一个重要点：“在这些限制条件下，即使纳西(Nassi)的视频中显示出的最糟糕的反应-Model X转向追随道路上的假车道标记-看起来也不错。实际上，该剪辑完全显示了应该发生的情况：Model X的拥有者(担心他或她的昂贵汽车可能会做什么)，在自动驾驶仪向不安全的方向行驶后，踩下了刹车并手动进行了控制。”
研究小组说，他们向实验中使用的两个系统Mobileye和Tesla公开了发现结果。 “我们通过5月初至10月19日发送的一系列邮件使Tesla和Mobileye保持了更新。”
他们论文的摘要：
“ …我们调查了一种新的感知挑战，该挑战导致半自动/全自主的ADAS和自动驾驶仪将无深度物体(幻像)视为真实。我们展示了攻击者如何利用此感知挑战…而无需物理上接近攻击场景，方法是通过配备便携式投影仪的无人机投射幻影，或者在面对互联网且位于道路附近的经黑客入侵的数字广告牌上呈现幻影…汽车的ADAS或自动驾驶仪将幻影视为真实物体，从而导致这些系统可以触发刹车，引导车辆驶入来往的车道，并发出有关假路标的通知。”
缓解方案?为了缓解这种情况，作者提出了“分析被检测物体的背景，表面和反射光的模型，该模型能够使用0.99 AUC来检测幻像。最后，我们解释了为什么部署车辆通信系统可能会减少攻击者的攻击机会。进行幻影攻击，但不会消除它们。”
萨特(Salter)回到六个月前，当时“本·古里安大学(Ben-Gurion University)博士生本·纳西(Ben Nassi)在尤瓦尔·埃洛维奇(Yuval Elovici)教授的指导下，使用廉价的无人机对Mobileye 630 Pro驾驶员辅助系统进行了一系列成功的欺骗攻击。从那时起，他将这项技术扩展到可以混淆特斯拉Model X的实验，而且也成功地进行了实验。”
总而言之，Salter对该研究的意义及其重要性深有看法：“在大多数情况下，我们觉得特斯拉对这些故意混淆其传感器的尝试做出了相当合理和良好的反应。认为这种工作很重要，但是它表明了对半自动驾驶系统进行防御性设计的必要。”
作者在论文中写道：“我们对特斯拉或Mobileye毫无抵触，他们的产品被用于我们的实验的原因是，他们的产品是市场上最好，最受欢迎的产品。”