一张贴纸 或可迷惑自动驾驶系统
2019-05-13 09:04
来源：
中国科技网
自动驾驶的安全性一直以来受到各方的关注。近日由北京航空航天大学、悉尼大学和剑桥大学的一项新研究表明，一张纸便可以“迷惑”AI自动驾驶系统，将一张用打印机打印出来的涂鸦贴画贴在路牌上就可以导致AI自动驾驶系统分类错误。目前该论文已在全球人工智能顶级会议AAAI 2019上发表。
在实验中，研究人员将生成的涂鸦贴画贴在北航校园中标为“限速20km／h”的真实路牌上后，AI自动驾驶系统完全被误分类，将其识别为“No Entry”（禁行）。该涂鸦贴画在论文中被称为“对抗补丁”，正是这块补丁“欺骗”了AI自动驾驶系统，让系统将该路牌误分类。
经实验证实，用该方法生成的对抗补丁具有稳定的攻击效果，将其贴在路牌上后，不会影响人类对于路牌语义信息的认知，且由于场景语义相关性人类也不会感觉到违和。但是，该对抗补丁对于AI自动驾驶系统则是毁灭性的。例如，这种攻击可能被恶意地用来攻击自动驾驶系统，入侵者只要将一小片贴画贴在路牌上，当自动驾驶汽车驶过时就可能会造成系统的致命错误，导致车祸产生。
分享
声明：
本文系OFweek根据授权转载自其它媒体或授权刊载，目的在于信息传递，并不代表本站赞同其观点和对其真实性负责，如有新闻稿件和图片作品的内容、版权以及其它问题的，请联系我们。
最新活动更多
-
3月27日立即报名>> 【工程师系列】汽车电子技术在线大会
-
4月30日立即下载>> 【村田汽车】汽车E/E架构革新中，新智能座舱挑战的解决方案
-
5月15-17日立即预约>> 【线下巡回】2025年STM32峰会
-
即日-5.15立即报名>>> 【在线会议】安森美Hyperlux™ ID系列引领iToF技术革新
-
5月15日立即下载>> 【白皮书】精确和高效地表征3000V/20A功率器件应用指南
-
5月16日立即参评 >> 【评选启动】维科杯·OFweek 2025（第十届）人工智能行业年度评选
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论