自动驾驶智能安全的守卫者 ——北航学生团队打造测试平台，主动发现AI漏洞
来源：中国教育晚报 作者：嘉锰 发布时间：2025-07-05
近日，北京航空航天大学交通科学与工程学院学生团队成功构建自动驾驶智能安全测试平台，面向自动驾驶车用智能算法安全展开全链条、多场景、强对抗的系统化验证，平台在实际运行中已成功诱发多类智能失效行为，有效实现智能算法漏洞主动发现。
自动驾驶事故频发，测试技术亟待升级
自动驾驶技术高速发展，以深度学习为代表的人工智能是核心推动力，智能感知、智能决策、智能控制、以及端到端等技术在自动驾驶汽车中发挥了重要作用，产生了溢出性极强的经济效益。
然而近年来，自动驾驶系统事故频发，极大影响社会公众信心，这其中智能算法失效是智能事故的主要原因，但目前的车辆测试普遍以功能性测试为主，缺乏主动发现自动驾驶智能安全缺陷的手段，难以深入揭示算法本身的风险边界与脆弱点。
聚焦行业痛点，北航学子勇担科研使命
为突破这一瓶颈，北京航空航天大学车路一体智能交通全国重点实验室师生团队发起科研攻关，面向自动驾驶车辆和智能交通系统，以主动发现人工智能算法缺陷为目标，突破多项关键技术，并形成测试平台，为自动驾驶智能安全测试提供新思路。
据团队技术负责人白雪松介绍，该平台将自动驾驶实车与仿真软件相结合，利用虚拟现实技术实现利用数字场景对物理车辆进行测试，并集成了大量的场景智能生成方案，能够有效发现智能系统的安全问题。团队算法骨干章锦川补充道：“我们依托Carla仿真平台，集成最先进的对抗攻击与防御算法，有效实现了AI测试AI，将人工智能技术用于实际应用，这是最让人兴奋的事情”。
聚焦关键技术突破，从实验室走向测试场
为实现精准高效的算法缺陷测试，团队围绕场景智能构建、测试效率提升、虚实闭环验证三个关键环节攻关，创新融合前沿算法和扰动技术，自动生成有针对性的测试场景，高效暴露算法漏洞。通过优化高维空间的采样策略，测试效率提升至传统方法的数10倍，平台还能实现虚拟仿真与真实车辆数据的实时同步与闭环验证。
平台已成功在交通运输部试验场、浙江德清智能网联测试基地等地完成多轮应用部署，累计测试车型超10种，发现算法漏洞20余类。部分模块已实现工程化落地，为整车企业提供标准化接口，助推自动驾驶产业构建更科学、高效、系统的算法安全验证机制。
据悉，该项目依托国家重点研发计划专项《无人驾驶的人工智能安全风险防范技术与验证》、《自主式交通系统互操作技术》等重大项目支持。在任毅龙、于海洋、刘祥龙、王嘉凯等老师指导下，来自交通工程、人工智能、车辆工程等多学科背景的北航学子，跨学科协同攻关，形成了理论研究-技术攻关-测试验证的标准研发模式。
面向未来，团队将持续拓展典型高风险场景测试能力，推进测试装备的模块化和服务接口开放，积极服务产业界与研究单位，构建“可测、可控、可监管”的智能交通安全治理新范式，为智能交通安全持续贡献青春力量。
