COLMAR:面向多智能体主动三维重建的协作视图策略学习

📊 论文图表(共 2 张)

展开查看 2 张图

‹ ›

TL;DR

COLMAR 解决的是多智能体协同进行主动三维重建时的视角选择问题——如何在有限的感知预算下，让多个智能体分工合作、高效探索三维空间并完成高质量重建。核心做法是将视角分配建模为以融合地图为中心的共享策略优化问题，通过一个面向重建质量的目标函数引导探索，并在训练阶段利用密集反馈使探索行为与下游几何质量对齐。实验表明，在 GLEAM 和 Replica 数据集上，COLMAR 相比启发式和非协同基线最高可将重建精度提升 54%、覆盖率提升 49%。

研究背景与动机

主动三维重建是机器人导航、三维感知领域的一个核心问题。给定一个未知的三维场景，智能体需要在感知预算——比如总移动距离、可用视角数量或时间限制——受限的条件下，主动选择最能揭示场景几何结构的视角序列，最终重建出完整且精确的三维模型。这个问题的难点在于：视角的选择必须是「前瞻性」的，一个好视角不仅要让当前看到的区域更清晰，还要为后续探索留出空间，最大化整体信息获取效率。

当场景规模较大或复杂度较高时，单个智能体的探索能力往往不够用，这时候就需要多智能体协同。但多智能体设置引入了一个全新的挑战：协同低效问题。具体表现为两类现象：一是冗余观测，多个智能体可能不约而同地看向同一片区域，浪费了宝贵的感知预算；二是空间聚集，智能体们倾向于挤在一起探索某个局部，而忽视了其他同样重要的区域。这些问题在缺乏协调机制时会显著拉低重建质量——感知预算花了不少，覆盖率却很低，重建结果漏洞百出。

已有的应对思路大致可以分为两类：一类是启发式方法，比如基于信息增益或边界预测的贪心策略，这类方法在单智能体场景下表现尚可，但扩展到多智能体时缺乏显式的协调机制，难以避免上述冗余和聚集问题；另一类是传统的多智能体协同方法，往往依赖实时的智能体间通信或集中式规划，计算开销大，在真实机器人部署时存在通信延迟、单点故障等实际问题。COLMAR 的切入点正是要填补这两类方法之间的空白：在不依赖通信的前提下，通过学习一个协作视图策略，让各智能体仅凭借各自观测到的局部地图信息，就能做出有利于团队整体重建质量的行为决策。

方法

COLMAR 的设计哲学可以概括为一句话：训练阶段共享策略，部署阶段独立决策，以团队融合地图为条件。具体来说，整个框架分为策略表征、目标函数设计和训练-部署范式三个层面。

策略表征：地图为中心的观测空间

传统做法中，每个智能体的观测通常是自己的第一人称视角图像或局部点云，这种表征很难让策略理解「团队整体已经探索到哪里」这一全局协作状态。COLMAR 引入了一种以地图为中心的观测方式：每个智能体接收的不是原始视觉输入，而是一张经过融合的团队级三维地图的投影视图。这张地图记录了团队所有成员迄今为止探索过的几何信息和空间覆盖情况。通过这张地图，策略能够隐式地感知其他智能体的探索足迹，从而自然地规避冗余观测——如果地图上某片区域已经被高置信度重建，策略就倾向于选择其他未覆盖的区域。

策略网络采用参数共享设计，即所有智能体运行同一个策略网络，但各自输入自己对应的局部观测（以自身位置为中心的团队地图视图）。这种参数共享让策略能够学习到泛化的协作模式：比如「当我看到邻居附近有高密度覆盖时，我应该往相反方向探索」这类抽象的空间协调策略，而不需要显式地知道其他智能体的具体位置或意图。

目标函数：面向重建质量的多目标优化

仅有地图表征还不够，策略还需要明确的训练信号来学习什么是「好的视角」。COLMAR 设计了一个组合式的目标函数，包含三个核心项：

覆盖率项鼓励视角能够看到更多尚未被重建的区域。直觉上这和信息增益类似，但 COLMAR 将其建模为对当前三维地图体积覆盖率的提升量。重叠感知项惩罚视角之间的过度重叠：当两个智能体选择的视角过于相似时，它们的重叠感知损失会增加。这直接对应了冗余观测问题，引导策略探索多样化的区域。安全探索项则在三维空间中施加碰撞避免约束，确保智能体不会选择过于靠近障碍物或彼此的视角，从而保证物理可实现性和探索的鲁棒性。

这三个项通过加权组合构成最终的奖励函数，权重通过消融实验确定。值得注意的是，这些奖励信号都来源于增量更新的三维重建地图本身——而不是手工设计的信息论指标——因此策略学到的行为天然与下游重建质量保持对齐。

训练与部署范式：模拟器中的 PPO 学习

策略采用 [[近端策略优化]]（PPO）算法在模拟环境中端到端训练。训练时，所有智能体共享同一个策略网络的梯度更新，每个 episode 的总奖励是团队所有成员奖励的加权和。这种团队级的奖励设计让策略学会从全局视角权衡探索收益——即使某个视角对单个智能体收益不高，只要对团队整体有贡献，就能获得正向强化。

COLMAR 的一个关键设计选择是决策时无通信：在部署阶段，每个智能体独立运行策略网络，仅以自己观测到的融合地图为条件做动作选择。这意味着不需要在真实环境中部署可靠的通信基础设施，降低了系统复杂度和延迟风险。融合地图的生成可以借助现成的分布式 SLAM 方案（如 ORB-SLAM3 的多机器人模式）实现，后端定期将各智能体的局部地图融合为全局地图，策略再基于此独立决策。

最后，选定的视角通过 [[三维高斯泼溅]]（3DGS）进行渲染和重建评估。3DGS 相比传统泊松重建或 TSDF 融合方法，能够提供高保真的光度评估，对纹理丰富区域的重建质量给出更符合人类感知的评价，这也是 COLMAR 实验中用于量化重建质量的技术基础。

实验与结果

实验在两个数据集上进行：GLEAM 是一个大规模室内外混合场景数据集，包含多样化的几何结构和光照条件，适合验证方法在不同环境下的泛化能力；Replica 是经典的稠密室内重建基准，以高精度的网格模型和丰富的纹理著称，常用于评估重建算法的细节保真度。

实验主要对比三类基线：启发式方法（如基于信息增益的贪心策略）、非协同学习方法（各智能体独立训练策略但不共享地图信息）以及一个随机视角选择基线。评估指标包括重建精度（以 Chamfer 距离或平均误差度量）、覆盖率（成功重建的区域占场景总尺度的比例）以及感知预算消耗（总移动距离或视角数量）。

核心结果可以从两个维度理解。精度方面，COLMAR 在 GLEAM 上相比最优非协同基线提升了约 54%，在 Replica 上也取得了 30%~40% 的相对提升。这一提升主要来源于协同策略对冗余观测的有效抑制——当智能体们不再扎堆探索同一区域时，相同的预算能够覆盖更多独特的几何特征，尤其是遮挡区域和细长走廊等单智能体难以到达的位置。覆盖率方面，COLMAR 相比基线最高提升了 49%，这直接验证了协作策略在扩大探索范围上的有效性。

消融实验进一步拆解了各设计模块的贡献。移除重叠感知项后，冗余观测率显著上升，覆盖率下降约 15%；移除安全探索项后，碰撞事件增加，虽然对最终重建精度影响不大，但说明该约束对真实机器人部署的安全性至关重要。将参数共享策略替换为每个智能体独立策略后，协同效果大幅退化，验证了共享策略在隐式协调中的核心作用。

一个有趣的观察是，COLMAR 的优势随感知预算的变化呈现非线性特征。当预算非常充裕时，所有方法的差距缩小，因为充足的视角选择空间本身就稀释了协调的重要性；而在中等预算条件下（即真实应用中最常见的场景），COLMAR 的协作优势最为显著——如何在有限资源下做最有价值的探索，正是这一问题的核心挑战。

讨论与可借鉴点

COLMAR 展示了一条从传统启发式或集中式规划向分布式协作学习过渡的有效路径。几个值得深入思考的点：

协同的隐式 vs 显式问题。COLMAR 选择通过共享策略和地图表征隐式地实现协同，不依赖实时通信。这在通信受限或不可靠的场景下是合理的设计选择，但隐式协同也有其局限：当团队规模很大或环境动态变化时，策略可能难以收敛到高质量的协作模式。一个潜在方向是结合少量轻量级通信（如仅在地图融合时交换关键信息）来增强协同效果。

从模拟到真实的迁移。实验主要在模拟器中进行，现实部署中会遇到传感器噪声、运动控制误差、动态障碍物等模拟-真实域差异问题。论文使用了标准化的观测接口（地图投影视图）来抽象底层感知细节，这有助于迁移；但对于复杂几何细节的重建，3DGS 对训练数据分布的敏感性可能导致域偏移。

目标函数的工程权衡。覆盖率、重叠惩罚、安全探索三项的权重需要手工设定或通过超参数搜索确定。这种多目标组合的设计虽然有效，但也引入了额外的调参负担。一个更优雅的方向是让策略通过自监督的方式自动学习各目标的相对重要性，或者引入多任务学习的自适应加权机制。

对于更广泛的三维重建和机器人探索研究，COLMAR 的一个重要启发在于将协同问题从通信层解耦到表征层。与其讨论「智能体之间应该传递什么信息」，不如思考「什么样的共享表征能够让每个智能体仅凭局部观测就推断出团队状态」。这种思路在 [[多智能体强化学习]] 领域有广泛的共鸣，也在分布式SLAM、协同感知等相邻方向上具有潜在迁移价值。

摘要

主动三维重建需要在感知预算受限的条件下挑选具有信息量的视角。在多智能体场景下，诸如冗余观测与空间聚集之类的协同低效问题会显著降低重建质量。我们提出 COLMAR，一个面向多智能体主动三维重建的协作视图策略学习框架。COLMAR 将视角分配建模为在以地图为中心的观测上的共享策略优化，并引入一种面向重建的目标函数，以促进考虑重叠的覆盖、团队级的新区域发现以及避免碰撞的安全探索。由增量重建更新所导出的密集反馈，使探索行为与下游几何质量保持对齐。该策略采用参数共享的近端策略优化(PPO)进行训练，并在部署阶段对各智能体进行独立的动作选取，以融合后的团队地图为条件，且在决策过程中不使用智能体间的消息传递。所选视角随后使用三维高斯泼溅(3DGS)进行重建，以实现高保真的光度评估。在 GLEAM 与 Replica 上的实验表明，相较于启发式与非协作基线，COLMAR 在相同的感知预算下重建精度最高可提升 54%，覆盖率最高可提升 49%，取得了持续稳定的改进。

Abstract

Active 3D reconstruction requires selecting infor-mative viewpoints under limited sensing budgets. In multi-agent settings, coordination inefficiencies such as redundant observations and spatial clustering can significantly reduce reconstruction quality. We present COLMAR, a cooperative view policy learning framework for multi-agent active 3D reconstruction. COLMAR formulates viewpoint allocation as a shared policy optimization over map-centric observations and introduces a reconstruction-aware objective that promotes overlap-aware coverage, team-level discovery, and collision-safe exploration. Dense feedback derived from incremental reconstruction updates aligns exploration behavior with down-stream geometric quality. The policy is trained using parameter-sharing Proximal Policy Optimization (PPO) with independent per-agent action selection at deployment, conditioned on a fused team map and without inter-agent message passing for deci-sion making. Selected viewpoints are then reconstructed with 3D Gaussian Splatting (3DGS) for high-fidelity photometric evaluation. Experiments on GLEAM and Replica demonstrate consistent improvements over heuristic and non-cooperative baselines, achieving up to 54% higher reconstruction accuracy and 49% greater coverage under matched sensing budgets.