作者 |吴昊,王浩,清醒,李明昊,许封元,仲盛结合创作
来源 | 智能汽车开发者平台
摘要
近年来,基于深度学习的视觉感知技术的开展极大地促进了车联网范畴中自动驾驶的繁荣,但是自动驾驶系统的平安问题频出引发了人们对自动驾驶将来的担忧．由于深度学习系统的行为缺乏可解释性,测试基于深度学习的自动驾驶系统的平安性极具应战性．目前已有针对自动驾驶场景的平安性测试工作被提出,但这些办法在测试场景生成、平安问题检测和平安问题解释等方面仍存在缺乏之处．针对基于视觉感知的自动驾驶系统,设计开发了一种场景驱动的、可解释强的、运转高效的平安性测试系统．提出了一种可以均衡真实性与丰厚度的场景描绘办法,并应用实时渲染引擎生成能够用于驾驶系统平安性测试的场景;设计了一种高效的针对非线性系统的场景搜索算法,其能够针对不同的待测试系统动态调整搜索计划;同时,还设计了一个毛病剖析器,自动化剖析定位待测试系统的平安性缺陷成因．复现了现有基于实时渲染引擎的动态自动驾驶测试系统,并同时运用本系统和复现系统对CILRS系统和CIL系统进行平安测试,实验结果标明相同时间下本工作的平安问题发现率是复现的场景驱动的动态测试办法的1.4倍．进一步的实验标明,能够分别为具有代表性的深度学习自动驾驶系统CIL和CILRS,从原野、乡村与城市的３类环境中动态生成的共3000个场景中,搜索到1939和1671个形成毛病的场景,并且每个毛病场景的搜索时间均匀为16.86s．剖析器从统计的角度判别出CILRS系统容易形成毛病的区域在道路两侧,雨天和红色或黄色物体更易形成该自动驾驶系统发作毛病．
车联网范畴随着物联网与交通运输范畴的深度交融蓬勃开展．随着深度学习的进步,车联网范畴的自动驾驶技术得到了打破性的开展,并有演化成一场新的汽车工业反动的趋向．无论是特斯拉、蔚来等新型车企,还是福特、宝马等传统车企都陆续拿到了自动驾驶路测牌照,着眼于研发深度自动驾驶技术．迅猛开展的深度自动驾驶技术正逐步成为车联网范畴的主要支撑技术之一,正在改动将来的交通和出行方式．
视觉感知模块是自动驾驶进行环境感知的重要组件,也是车辆进行智能决策的重要根底．自动驾驶范畴的重要企业特斯拉更是将视觉感知模块作为其驾驶系统的独一环境感知模块．因而,自动驾驶系统视觉感知模块的平安性是自动驾驶系统正常工作的关键．固然视觉感知模块的表现随着深度视觉技术的开展稳步提升,但是其从驾驶环境中感知到的特征语义难被了解、决策过程无法解释．如何对自动驾驶系统视觉感知模块的平安性进行充沛测试,已然成为了一个火烧眉毛、亟待处理的问题．
诚然,盘绕深度学习可解释性方面的工作有了一定的打破,但是间隔剖析分明自动驾驶视觉感知模块的错误传导机理还有较远的间隔．近年来,神经网络的黑盒攻击办法的进步,启示大家提出了一些基于场景搜索的自动驾驶视觉感知模块平安性测试技术．这些场景驱动的测试办法应用黑盒测试的思绪,为驾驶系统提供尽可能多的驾驶场景数据,察看自动驾驶系统的输出与测试预言(TestOracle)之间的差别,进而剖析自动驾驶系统视觉感知模块的平安性．
我们以为场景驱动的黑盒平安测试是在弄清深度学习可解释性之前,关于视觉感知模块平安性最 为重要的测试手腕．但目前关于将生成场景应用于视觉感知模块的测试,我们仍面临着３个应战 :
１) 均衡场景描绘的真实性与丰厚度．场景生成 规则是场景驱动的测试系统的重要根底．激进的规则设计会形成场景掩盖才能缺乏; 而过于灵敏的规则设计又会毁坏物体相对关系,伤害场景真实性．探求一个能同时统筹场景真实性和丰厚度的场景生成规则极具应战性．
