特斯拉司机辅助驾驶系统中使用的机器学习存在弱点 在限速标志上粘贴电子胶带诱使其在限速区超速
据外媒报道,计算机安全解决方案供应商McAfee的研究人员日前发现,电动汽车制造商特斯拉的司机辅助驾驶系统存在潜在漏洞。他们通过在限速标志上粘贴电子胶带,从而诱使特斯拉汽车在限速区超速行驶。
McAfee的技术人员将电子胶带以水平方式粘贴在时速35公里限速标志上。根据McAfee周三发布的研究显示,这一变化导致特斯拉车辆读取的限速数据为每小时137公里,从而促使其巡航控制系统自动加速。
McAfee表示,这个问题对司机来说并不算是个严重的风险。没有人受伤,方向盘后面的研究人员能够安全地让汽车减速。
但McAfee高级威胁研究主管史蒂夫·波沃尔尼(Steve Povolny)表示,去年结束的18个月研究结果表明,特斯拉司机辅助驾驶系统中使用的机器学习存在弱点。其他研究表明,物理世界的变化会使这些系统变得混乱。
测试涉及2016年生产的Model S和Model X,它们使用了Mobileye公司提供的摄像头系统,Mobileye现在是英特尔旗下子公司。多家汽车制造商都在使用Mobileye的系统,尽管特斯拉在2016年停止使用它们。
据McAfee称,对Mobileye最新摄像系统的测试没有发现同样的漏洞,特斯拉的最新车辆显然不依赖于交通标志识别。特斯拉没有回复寻求对该研究发表评论的电子邮件。
波沃尔尼表示:“制造商和供应商意识到了这个问题,他们正在从这个问题中吸取教训,但这并不能改变这个行业存在很多盲点的事实。”
可以肯定的是,今天发生这样的事件对现实世界的威胁是有限的。首先,自动驾驶汽车仍处于开发阶段,大多数汽车正在接受安全司机的测试。现在有先进的司机辅助驾驶系统的车辆仍然需要人类司机保持专心。
McAfee的研究人员只能通过复制特定的序列来欺骗系统,这些序列包括当司机辅助功能打开并遇到改变的限速标志时才会发挥作用。制造商也在将地图技术集成到反映适当限速的系统中。
波沃尔尼说:“我们不太可能在野外看到这种情况,或者攻击者会试图利用这一点,直到我们拥有真正的自动驾驶汽车。不过到那时,我们希望这些类型的缺陷应该已经得到解决。”
Mobileye在一份声明中表示,人类司机也可能被这样的修改所愚弄,研究人员测试的系统旨在帮助人类司机,而不是支持自动驾驶。
该公司表示:“自动驾驶汽车技术将不仅仅依赖于传感器,还将得到其他各种技术和数据的支持,如众包地图,以确保从摄像头传感器接收到的信息的可靠性,并提供更强大的冗余和安全。”
McAfee的研究紧跟在被称为对抗性机器学习的类似学术工作之后,这是个相对较新的领域,该研究基于计算机的学习系统如何被操纵。例如,2017年的研究人员发现,在停车标志上的特定位置放置四个黑白贴纸可以“欺骗”计算机视觉系统,让其无法看到时速72公里的限速标志。
杜克大学机器人学教授、自动驾驶汽车专家米西·卡明斯(Missy Cummings)表示,这个问题并不是特斯拉或Mobileye特有的,而是驱动自动驾驶汽车的先进系统固有的一个更广泛的弱点。研究人员已经表明,在没有访问系统本身的情况下改变物理环境,会导致潜在的严重故障。
卡明斯解释称:“这就是为什么它是如此危险的原因,因为你不需要进入系统来黑它,你只需要改变我们所在的世界即可。”(腾讯科技审校/金鹿)
相关阅读
-
助力打造科技创新和产业发展引擎 宜兴...
以前我们在无锡的时候就听说宜兴税务部门的服务态度好,没想到是如... -
着力完善科技创新体系 全力锻造科技创...
十三五以来,兰州石化公司全面推进创新驱动和人才强企战略,实施科... -
常州经开区入选国家工业互联网平台赋能...
9月6日,工信部对国家新型工业化产业示范基地工业互联网平台赋能数... -
实施5G基站建设提速工程 促进5G基站建...
记者今天从省工信厅获悉,截至今年9月中旬,全省累计建成5G基站5 8... -
加快培养复合型人才培训需求 做好成果...
为进一步推动全行兴动力创新创优项目实践深化,促进各项目小组相互... -
加快税收征管数字化升级 提升纳税人幸...
这份电子发票的成功开具,标志着国家税务总局山西省税务局的晋税通A...
- 如何培养学生的空间思维能力(如何培养学生2022-11-25
- 十滴水洗澡的功效(十滴水打一字)2022-11-25
- 焦点快播:“外国人讲安徽故事·合肥站”宣2022-11-25
- 2022黄山旅游节推出14项主题活动2022-11-25
- 世界微速讯:以群众口碑检验富裕江西幸福江2022-11-25
- 内双画眼妆选择什么样的眼影?内双眼妆怎么2022-11-25
- 眼影选购需要注意哪些方面?眼影是不是越贵2022-11-25
- 深邃欧式眼妆教程 欧美上挑眼线怎么画?-2022-11-25
- 环球观热点:中分刘海怎么打理好看?哪些中2022-11-25
- 适合中分发型的脸型有哪些?2022年短发发型2022-11-25
- 全球今热点:中分发型有哪些优势?方形脸适2022-11-25
- 中分短发发型有哪些?你更喜欢哪一款?|全2022-11-25
- 中分适合什么脸型?刘海中分怎么处理?2022-11-25
- 刘海分开合不上怎么恢复?去理发店可以吗?2022-11-25
- 【世界新要闻】圆脸脸型特点是什么?圆脸适2022-11-25
- 不想中分怎么变回来?哪些脸型留中分发型不2022-11-25
- 环球热推荐:中分刘海留烦了想换发型怎么办2022-11-25
- 热点聚焦:刘海中分怎么解决?刘海剪厚了怎2022-11-25
- 如何让头发快速生长?刚染完头发第二天就洗2022-11-25
- 男士中分适合烫大卷还是小卷?男生烫发发型2022-11-25
- 自然卷应该使用什么样的护发产品?自然卷该2022-11-25
- 月饼分着吃寓意好吗?为什么说月饼吃多了也2022-11-25
- 月饼能煎着吃吗?月饼的吃法有哪些?|环球2022-11-25
- 中秋节该怎么送礼?中秋节后天气会转凉吗?2022-11-25
- 月饼烤完很硬怎么回事?月饼的好坏主要看什2022-11-25
- 十八数藏引入新投资方,深度布局产业化2022-11-25
- 地铁逃生怎么下载(地团网)|要闻速递2022-11-25
- 女人在床上说的最刻薄的话_世界即时看2022-11-25
- 玉竹可以和什么一起泡酒?玉竹酒做法是什么2022-11-25
- 玉竹能放多久?玉竹食用方法有哪些?-全球2022-11-25