开着辅助驾驶汽车接近路边骑行者时，你最想知道的不是车机能不能编出一句解释，而是它究竟有没有把骑行者算进决策。如果屏幕说“注意骑行者”，汽车实际却因别的原因转向，这句话听着合理，却不能帮你判断它下一次会怎么做。
这正是自动驾驶解释的一道难题。深度神经网络——由许多层计算单元组成、从大量例子中学习驾驶决策的模型——能力很强，判断过程却很难直接看懂。这样的系统常被称为“黑箱”。E. M. Kenny 等人在 2026 年发表于 Nature 的工作，试着让汽车用人能理解、又真正参与决策的道路概念解释自己。Nature 同期还刊发了 News & Views 评论。本文的效果结论主要来自论文团队，评论并非独立复现。
解释不能只是事后配台词
团队提出了 Concept-Wrapper Network，简称 CW-Net。它处理的是驾驶系统中的规划器，也就是负责决定车辆下一步如何行动的部分。
CW-Net 给已经训练好的黑箱规划器加上一层“概念包装”。原模型原本会直接把内部计算结果送往最终决策；研究者替换其最后的奖励层，先接入一个概念分类器，再接入新的奖励层。两部分一起训练：前者判断当前属于什么道路情境，后者依据这些概念作出驾驶决策。原网络其余部分不改，也不必从头训练。
这里的“概念”不是抽象术语，而是“正在接近停止的车辆”或“离骑行者很近”这类人能直接理解的情境。它借鉴了案例推理——通过识别当前情况与已知案例的相似之处来判断——以及概念瓶颈模型的思路。
关键在于，识别出的概念是最后决策模块唯一接收的输入。换句话说，汽车不是先作决定，再找一句顺耳的话解释；这些概念本身就在决定它怎么开。论文因此称解释具有“因果忠实性”。这也区别于事后解释：后者在模型完成判断后再分析原因，结构上不保证说明的依据就是模型真正使用的依据。
从基准测试开到真实道路
论文先把 CW-Net 用在一个模仿人类驾驶行为的机器学习规划器上。团队称，大规模基准测试显示，它能够识别道路概念，同时没有损害原规划器的驾驶表现。不过，现有材料没有给出具体性能指标、比较基线或统计显著性，因而不能判断所谓“不牺牲性能”的幅度有多大。
更值得注意的是，研究没有停在仿真环境。团队把 CW-Net 部署到配有安全驾驶员的真实自动驾驶汽车上，开展半自然情境研究。他们展示了三种情况：驾驶员起初对车辆行为的理解不准确，看到 CW-Net 的解释后，心智模型得到改善，也能更准确地预测车辆接下来会怎样行动。
“心智模型”就是人脑中对一个系统如何工作、何时可能出错的简化认识。它不要求驾驶者读懂神经网络，而是让人知道“这辆车在什么情况下通常会怎样反应”。后续较大规模的在线模拟研究观察到相似变化。团队还让车辆驶上拉斯维加斯公共道路，再用这些数据开展一项 100 人在线研究。论文报告称，心智模型越准确，参与者预测车辆行为和掌握现场情况的能力也越好，尤其是在出乎预期的情境中。
为什么这一步值得关注？
可解释 AI 一直想把模型判断翻译成人能理解的依据。但在自动驾驶里，真正的问题不是解释是否“像人话”，而是它是否忠实、能否在实车运行，以及驾驶者能不能因此更懂车辆。
CW-Net 把这三件事接在了一起：让概念实际进入决策链，把系统装到真实车辆上，再观察解释是否改变人的判断。论文还指出，自动驾驶系统与驾驶员沟通不畅曾促成多起高关注事故，其中一些造成死亡。不过，这项研究并未直接证明 CW-Net 能减少事故或提高整体安全性。它提供的是更靠前的一环证据：可理解且参与决策的解释，可能帮助人更准确地预判系统行为。
局限与未知
- 供稿没有披露多数实验的样本量、效应值、统计显著性、基线和具体性能指标；只有拉斯维加斯数据对应的在线研究明确为 100 人。
- 研究中的解释改善了参与者理解，但这不等于普通用户已经能在量产产品中使用该功能，也不等于事故率已经下降。
- 作者预计 CW-Net 还能用于自主无人机、机器人外科医生、端到端学习系统和 vision–language–action models（把视觉、语言指令与动作连接起来的模型），这些推广目前仍是设想，尚未得到材料中的实验验证。