BucketKD：一种面向端到端运动规划的安全感知分桶知识蒸馏框架

📊 论文图表(共 7 张)

展开查看 7 张图

‹ ›

TL;DR

BucketKD 是一种面向端到端运动规划模型压缩的知识蒸馏框架，通过将关键环境变量离散化为自适应桶来保留更丰富的场景语义，并引入基于碰撞时间（TTC）的安全感知航点注意力机制，使学生模型在蒸馏过程中更好地继承安全关键行为。在 CARLA 仿真平台和 Bench2Drive 数据集上的实验表明，该方法在保持较高压缩比的同时，显著提升了规划精度和安全性，超越了现有最优方案。

研究背景与动机

端到端运动规划近年来在自动驾驶领域获得了广泛关注。这一范式的核心思想是使用深度神经网络直接将原始传感器数据映射为控制命令或轨迹规划结果，省去了传统模块化系统中感知、预测、规划等模块之间的显式接口设计。由于避免了信息逐级传递中的损失，端到端方法在理论上具有更强的全局优化能力和更简洁的系统架构。

然而，端到端模型的规模通常非常庞大。以常见的 Transformer 或卷积网络骨干为例，模型参数量往往达到数百万甚至上千万级别。这在云端服务器上并非不可接受，但对于车载嵌入式平台而言，计算资源、内存和功耗都受到严格约束，直接部署这些庞然大物面临严峻挑战。如何在保持模型性能的前提下实现有效压缩，成为推动端到端自动驾驶落地的关键问题。

在模型压缩的诸多技术中，[[知识蒸馏]] 是一种被广泛采用的方法。其基本思路是训练一个参数量较小的学生模型，使其模仿性能更强但计算代价高昂的教师模型的行为。在传统的知识蒸馏框架中，学生模型主要学习教师模型的输出分布或中间层特征，模型体积得以显著缩小。

但现有知识蒸馏方案在处理端到端运动规划任务时存在一个根本性困难：它们通常依赖简化的规划状态表示——例如直接使用路径点坐标或控制信号——而丢失了大量有价值的场景语义信息。在自动驾驶场景中，周围的车辆位置、道路边界、信号灯状态等环境变量对规划决策至关重要。当学生模型只能接触到经过大幅压缩的规划状态时，这些安全相关的场景信息难以被有效保留，导致学生模型在蒸馏后无法正确应对复杂的交通情境。

正是基于这一观察，BucketKD 的研究者们希望提出一种新的蒸馏框架，能够在模型压缩的过程中充分保留场景语义，同时确保学生模型继承教师模型的安全关键行为。

方法

BucketKD 的核心思想可以分为两个层面：自适应分桶机制和基于 TTC 的安全感知注意力。

自适应分桶机制

传统知识蒸馏在处理环境变量时，往往将这些连续变量直接作为浮点数输入模型，或者进行简单均匀量化。这两种做法都有明显缺陷：直接使用原始数值意味着学生模型需要学习与教师模型相同维度的输入，增加压缩难度；而均匀量化则会引入较大的信息损失，特别是对于那些分布不均匀的环境变量。

BucketKD 采用了自适应分桶策略来解决这一矛盾。具体而言，研究者将关键的环境变量——如自车与其他障碍物的相对距离、角度、相对速度等——离散化为若干个桶（bucket）。与固定间隔的均匀分桶不同，自适应分桶根据变量在训练数据中的实际分布动态确定桶的边界，使得高频区域被划分得更细，低频区域则使用更粗糙的划分。这种设计在显著降低输入维度的同时，最大程度地保留了原始数据的区分能力。

从信息论的角度来看，自适应分桶本质上是一种有损压缩过程，但其压缩方式是智能的：重要的、对决策影响大的变量值被精确表示，而影响较小的值则被适当粗粒度化。这样一来，学生模型接收到的输入虽然经过了离散化处理，但仍然携带着丰富的场景语义信息，而非简单的规划状态摘要。

基于 TTC 的安全感知航点注意力

分桶机制解决了输入端的信息保留问题，但仅靠输入端的特征传递还不足以保证学生模型在安全关键场景中的表现。为此，BucketKD 在蒸馏过程中引入了安全感知机制，其核心是基于碰撞时间（[[Time-to-Collision]]，TTC）的航点注意力模块。

TTC 是交通研究中广泛使用的安全度量，用于评估当前车辆与前方障碍物发生碰撞的潜在时间。其基本公式为：

当两车同向行驶且后车速度更快时，TTC 表示前车保持当前速度不变的情况下，后车追上前车所需的时间。TTC 值越小，意味着碰撞风险越高。

在 BucketKD 中，研究者将这一概念引入到航点风险评估中。对于规划轨迹上的每个航点，系统综合考虑该航点与周围障碍物的接近程度以及它们之间的相对运动关系，通过 TTC 公式计算一个风险分数。这个分数被用作注意力权重，使得高风险航点在蒸馏过程中获得更多的学习关注。

具体而言，安全感知注意力机制首先对每个航点计算其 TTC 风险值，然后将这些风险值归一化后作为注意力权重与航点特征相乘。这样一来，当学生模型学习模仿教师模型的轨迹时，靠近障碍物或处于高相对速度区域的航点会对整体损失函数产生更大影响。换言之，蒸馏过程不仅要求学生模型的输出在几何上接近教师模型，还特别强调在安全关键区域保持一致的行为模式。

这种设计的直觉在于：传统的知识蒸馏往往将所有输出视为同等重要，但驾驶场景中不同区域的重要性差异巨大。一个微小的轨迹偏差在空旷路段可能无关紧要，但在狭窄路口或车辆密集区域却可能导致事故。通过引入 TTC 感知的注意力权重，BucketKD 能够引导学生模型将学习预算优先分配给最需要精确表达的位置，从而在有限的模型容量下最大化安全相关的性能。

实验与结果

研究团队在 CARLA 自动驾驶仿真平台上进行了全面的实验评估，训练和测试数据来自 Bench2Drive 数据集。CARLA 作为开源仿真平台，能够复现多样化的城市场景和天气条件，是自动驾驶领域验证算法性能的常用基准。

实验首先对比了不同压缩比下 BucketKD 与基线方法的表现。压缩比定义为教师模型参数量与学生模型参数量之比，研究者测试了从 4 倍到 16 倍的多个压缩档位。结果显示，在所有压缩比设置下，BucketKD 在规划精度指标（如平均位移误差、平均角度误差）上均显著优于对比的最先进知识蒸馏方法。特别是在高压缩比（如 16:1）条件下，优势更为明显——其他方法的学生模型性能出现明显下降，而 BucketKD 仍能保持接近教师模型的表现。

安全性评估采用了碰撞率、违规率等指标。结果表明，BucketKD 生成的学生模型在模拟测试场景中的碰撞事件显著减少。这验证了 TTC 安全注意力模块的有效性：学生模型确实在蒸馏过程中习得了安全关键的行为模式，而非仅仅复制轨迹的几何形状。

消融实验进一步拆解了各个组件的贡献。禁用自适应分桶而仅使用均匀量化时，性能出现明显回落，说明分桶策略对保留场景语义至关重要。单独移除安全注意力模块后，安全相关指标恶化最为显著，而纯精度指标的下降则相对温和。这一结果印证了设计直觉：TTC 注意力主要影响安全关键场景下的表现，对常规驾驶情境的影响相对较小。

值得注意的是，实验中还观察到自适应分桶与安全注意力之间存在协同效应。二者联合使用时，模型性能优于各自单独使用的简单加和。这可能是因为保留更丰富的场景语义使得安全注意力模块能够更准确地识别高风险区域，而精确的风险评估又反过来帮助分桶机制更好地分配信息容量。

讨论与可借鉴点

BucketKD 在知识蒸馏框架中成功引入了安全感知的建模视角，为端到端自动驾驶模型的压缩问题提供了新的解决思路。其核心贡献在于两点：一是认识到环境变量的离散化表示不应是简单的信息丢弃，而可以是语义保留的有选择压缩；二是将交通工程中成熟的 TTC 安全度量引入神经网络训练过程，使得蒸馏学习能够自动区分不同区域的学习优先级。

然而，这一工作也存在一些局限性。首先，自适应分桶的边界确定依赖于训练数据的分布统计，当部署环境的数据分布与训练集存在显著差异时，分桶策略可能不再是“最优”的。其次，TTC 公式假设障碍物保持当前运动状态不变，这在动态变化的交通场景中是一个较强的简化，复杂场景下可能需要更鲁棒的风险度量。此外，实验目前仅在仿真环境中进行，真实世界的传感器噪声和动态特性可能对分桶机制的性能产生影响。

从更广泛的角度看，BucketKD 的设计理念——在压缩过程中选择性保留与任务目标最相关的语义信息——具有较好的通用性。这一思想可以迁移到其他需要压缩的感知-决策系统中。例如，在多模态融合的规划模型中，不同传感器模态的重要性各不相同，基于任务目标的模态选择或加权压缩可能带来更高效的部署方案。

对于后续研究，一个值得探索的方向是将安全感知从蒸馏阶段延伸到学生模型的整个训练过程中，而非仅作为蒸馏的辅助约束。这样学生模型可能学到更加内化的安全行为模式。此外，桶的粒度和 TTC 参数目前需要人工设定或基于经验选择，研究其自动调整机制也是提升框架鲁棒性的潜在路径。

摘要

端到端运动规划已成为自动驾驶领域中一种极具前景的范式，通过深度神经网络将原始传感器数据直接映射为控制命令。尽管其具有诸多优势，但庞大的模型规模阻碍了在资源受限平台上的部署。本文提出 BucketKD，一种基于分桶的知识蒸馏框架，能够生成紧凑且具备安全感知能力的端到端规划器。与依赖简化规划状态表示的现有最先进方法相比，BucketKD 将关键环境变量离散化为自适应分桶，在保持效率的同时捕获更丰富的场景语义。此外，我们设计了一种安全感知的航点注意力机制，通过广泛应用于交通研究中的碰撞时间（TTC）公式，综合考虑障碍物接近程度与相对运动来评估每个航点的风险水平。这使得学生模型在蒸馏过程中能够更好地保留安全关键行为。在 CARLA 仿真平台上基于 Bench2Drive 数据集进行的大量实验表明，BucketKD 在规划精度和安全性方面均显著优于现有最先进方法，同时保持了较高的压缩比。

Abstract

End-to-end motion planning has emerged as a promising paradigm in autonomous driving, directly mapping raw sensor data to control commands via deep neural networks. Despite its advantages, its large model size hinders deployment in resource-constrained platforms. In this paper, we present BucketKD, a bucket-based knowledge distillation framework that yields compact and safety-aware end-to-end planners. Compared to the state-of-the-art approach, which relies on simplified planning state representations, BucketKD discretizes critical environmental variables into adaptive buckets that capture richer scene semantics while preserving efficiency. In addition, we design a safety-aware waypoint attention mechanism that evaluates each waypoint's risk level by accounting for both obstacle proximity and relative motion through a time-to-collision (TTC) formulation widely used in transportation research. This enables the student model to better retain safety-critical behaviors during distillation. Extensive experiments in CARLA using the Bench2Drive dataset show that BucketKD significantly outperforms the state-of-the-art in both planning accuracy and safety while maintaining strong compression ratios.