从信号到结构：记忆架构如何驱动 LLM 智能体的语言涌现

📊 论文图表(共 3 张)

展开查看 3 张图

‹ ›

TL;DR

本文在经典的 Lewis 信号博弈框架下，用大语言模型（LLM）智能体探究了一个核心问题：两个从未共享语言的智能体，如何在交互中自发发明出一套共享编码？研究者设计了五种不同的记忆架构，在多种信道容量配置下系统对比发现——记忆架构比信道容量本身更关键。配备持久私有笔记的智能体能将习得的约定外化存储，在容量为 25 时达到 $0.867\pm 0.023$ 的协调率；而无状态智能体在容量增大时反而崩溃。论文还挑战了信息瓶颈理论的主流预测，指出最优容量并非等于对象数量，反而是冗余容量更稳健。

研究背景与动机

语言是如何从无到有产生的？这是认知科学、人工智能和语言学共同关心的根本问题。1969 年，David Lewis 在《Convention》一书中提出了信号博弈（signaling game）作为研究语言约定的理论工具：在游戏中，发送者看到一个来自有限对象集合的状态，需要向接收者发送一个来自有限信号集合的消息，接收者则根据消息猜测状态。如果双方协调成功（接收者猜对），就给奖励。这个博弈的精髓在于：双方没有任何预先共享的语言，必须在交互历史中"发明"一套编码。

传统上，研究者用随机智能体（stochastic agents）来做这类实验，其行为由概率分布定义。但随着大语言模型展现出强大的推理和情境学习能力，一个新问题浮现了：用 LLM 作为智能体，它们能否像人类一样在信号博弈中发明语言？如果能，背后的机制是什么？

这个问题之所以重要，是因为 LLM 正在被广泛部署为多智能体系统的组件，理解它们如何通过交互形成协议是工程安全性的前提。更根本地，这个问题触及一个悬而未决的理论争议：协调成功的关键到底在于信号通道提供了多少信息传递能力，还是在于智能体如何组织和记忆交互历史？本文的切入点正是同时操控这两个维度——记忆架构和信道容量——看哪个才是决定协调效果的主要因素。

方法

研究者在 Lewis 信号博弈的标准设定下展开实验。每次试验包含一个随机抽样的"对象"（来自 8 个候选对象），发送者看到该对象后从信号词汇表中选出一条消息，接收者根据收到的消息猜测对象，只有猜对才计为协调成功。游戏重复多轮，发送者和接收者的历史交互记录累积形成它们判断下一轮如何发送和解读信号的依据。

核心实验变量有两个。第一个是信道容量（channel capacity），即信号词汇表的大小。研究者考察了从 2 到 25 不等的多个容量值，覆盖了从极度受限到高度冗余的全谱。第二个是记忆架构（memory architecture），即智能体如何存储和调用历史交互信息。论文定义了五种逐级递进的架构：

最简单的无状态架构（stateless）没有任何记忆，每个回合独立决策，发送者根据对象直接选择消息，接收者根据当前消息猜测对象。这种架构的"记忆"完全依赖于 LLM 自身上下文窗口中临时积累的近期交互，但它并没有显式的持久存储机制。随着词汇表变大，滚动上下文需要追踪的候选编码越来越多，LLM 的注意力机制难以维持一致的翻译映射，性能随之下降。

带检索的历史架构（retrieval-augmented）允许智能体从历史交互中检索相似情境来处理当前回合——但这里的"检索"在本文实验中指的是一种较为宽松的记忆访问，智能体通过上下文中的历史片段来"参照"而非严格检索。

共享会话笔记架构（shared notebook）让两个智能体共同维护一份会话笔记，双方都能读写。这相当于引入了一个外部共享存储，但实验表明共享笔记容易产生冲突——两个智能体对笔记内容的解读不一致时，反而会干扰协调。

私有持久笔记架构（private notebook）让每个智能体各自维护一份私有笔记，只能自己读写。这是最关键的架构设计：笔记将习得的约定外化，发送者在私有笔记中记录"对象 A → 信号 X"这类映射，接收者记录"信号 X → 对象 A"的反向映射。由于笔记是私有的，双方各自维护的约定不会相互覆盖，从而形成稳定的双向编码。

混合架构（hybrid）则同时配备私有笔记和共享笔记，试图兼得两者的优势。

这些架构的设计逻辑非常清晰：记忆的持久性决定了交互经验能否积累，记忆的私有性决定了约定能否独立形成而不被破坏。研究者的直觉是，[[涌现现象]]（emergence）的关键不在于单次交互的信息量，而在于历史经验能否被结构化地保留下来。

实验与结果

实验在每个容量-架构组合下运行 500 步交互，以协调成功率作为主要指标。结果揭示了三个主要发现。

第一，记忆架构的决定性作用远超信道容量的影响。 在所有容量配置下，私有笔记架构的表现显著优于其他所有架构。具体而言，当容量为 25 时，私有笔记智能体达到了 $0.867\pm 0.023$ 的协调率——这是所有实验条件下的最佳结果。相比之下，无状态智能体虽然在中低容量（4-8）时能勉强工作，但当容量继续增大到 12 以上时，协调率反而急剧下降，形成了一种"高容量崩溃"现象。这一结果本身就非常反直觉：增加信号选项反而损害了无状态智能体的协调能力。研究者将原因归结为滚动上下文的负载问题——当词汇表增大时，候选编码的组合空间呈指数增长，上下文窗口无法同时追踪所有可能的映射关系，导致 LLM 在每轮中频繁"忘记"之前建立的一致约定。

第二，冗余容量反而是优势而非浪费。 传统信息论视角认为，信道容量应恰好等于传递状态信息所需的最小比特数——对于 8 个对象，最少需要 ${\log }_{2}8=3$ 比特，而若信号词汇表为 8，则容量恰好等于对象数量。基于信息瓶颈（Information Bottleneck）的理论论证曾预测最优容量等于对象数量。但实验结果完全颠覆了这一预测：容量 = 8（即等于对象数量）恰恰是一个脆弱点，协调率仅约 0.65；而容量增大到 25 时，私有笔记架构的协调率提升到 0.867。这背后的机制在于：额外的信号容量提供了冗余编码空间，智能体可以建立多个等效的映射通道，当某一编码路径暂时失效时，其他路径仍能维持沟通。笔记架构恰好利用了这种冗余——它记录的不是单一最优编码，而是一组稳定的映射约定。

第三，不同架构的能力边界差异显著。 共享笔记的表现不如私有笔记，因为双方共同维护的笔记在更新时容易产生不一致——发送者写入的编码约定与接收者同时写入的内容可能相互覆盖，导致"协调中的协调"问题。检索增强架构介于无状态和笔记架构之间，但提升幅度有限，说明简单的历史检索不足以替代结构化的持久记忆。混合架构也没有明显优于纯私有笔记架构，意味着共享笔记的加入带来的边际收益为负。

研究者还进行了消融分析，发现私有笔记的价值主要来自两个效应的叠加：一是历史经验的累积——随回合数增加，笔记中积累的约定越来越全面，覆盖更多对象-信号配对；二是约定的独立性——由于笔记私有，发送者和接收者各自独立演化出互补的映射，双方的编码天然是"双向可逆的"，避免了共享存储中的写入冲突。

讨论与可借鉴点

这篇论文的核心贡献在于确立了记忆架构作为协调成功的关键变量，扭转了此前研究过度关注信道容量的倾向。它告诉我们，在 LLM 驱动的多智能体交互中，信号的传递能力只是基础设施，而记忆的组织方式决定了智能体能否把一次次交互转化为稳定的协议。这一结论对当前大模型应用开发有直接的工程启示：如果你在设计需要多个 LLM 协作的任务流程，不要只关注 prompt 怎么写，也要考虑信息如何在智能体之间持久化——是共享上下文、还是各自维护状态。

研究的局限性也值得注意。实验使用的是相对简化的 Lewis 信号博弈，所有对象都是离散的、独立的，接收者的猜测是单轮完成的。这与现实中的语言使用场景——多轮对话、上下文依赖、信号具有时序结构——仍有相当距离。此外，LLM 本身的行为在不同模型规模、不同预训练数据下可能有很大差异，论文的结论是否适用于所有大语言模型还需要更多验证。

更深层的理论问题在于：私有笔记架构中约定的"涌现"是否真的是从零开始，还是 LLM 在预训练中已经学到了类似的对象-信号映射模式？如果是后者，那么所谓"发明语言"的表述就需要加引号了。未来的研究可以追问：当智能体之间的先验知识差异更大时，哪种记忆架构仍然有效？多智能体之间的记忆是否需要某种对齐机制才能真正形成共享语言？这些问题的答案将帮助我们更深刻地理解从信号到语言的跨越究竟需要什么条件。

摘要

两个智能体如何从零开始发明一种共享语言？在 Lewis 信号博弈中，发送者和接收者必须仅依靠交互历史来协商出一套编码。我们研究了五种记忆架构，在不同信道配置下使用 LLM 智能体进行实验，发现记忆架构的影响比信道容量更为关键。拥有持久私有笔记的智能体能够从富余的信道容量中获益，并避免了无状态智能体在高容量下出现的崩溃现象，在容量为 25 时实现了最可靠的协调（$0.867\pm 0.023$）。无状态智能体在中等容量时表现最佳，但随着词汇量增长超出滚动上下文窗口的处理能力，其性能随之下降。笔记将习得的约定外化，使智能体无需在每一轮重新推导编码。受信息瓶颈启发的一个论证预测，最优容量应等于对象数量。然而实际结果显示，该瓶颈点（容量 = 8）反而是一个脆弱点，富余容量通常表现更好。我们表明，信道容量本身无法预测协调效果；记忆架构决定了智能体能否将交互历史转化为稳定的约定，理解信号如何成为语言需要同时考虑这两个维度。

Abstract

How do two agents invent a shared language from scratch? In a Lewis signaling game, a sender and receiver must coordinate on a code using only their interaction history. We study five memory architectures across varying channel configurations with LLM agents and find that memory architecture matters more than channel capacity. Agents with a persistent private notebook benefit from surplus channel capacity and avoid the high-capacity collapse seen in stateless agents, achieving the most reliable coordination ($0.867\pm 0.023$ at capacity = 25). Stateless agents peak at moderate capacity and then degrade as the vocabulary grows beyond what a rolling context window can track The notebook externalizes learned conventions, freeing agents from having to re-derive codes each round. An information bottleneck-inspired argument predicts an optimal capacity equal to the number of objects. Instead, the bottleneck (capacity = 8) proves to be a fragility point, and surplus capacity is generally better. We show that channel capacity alone cannot predict coordination; memory architecture determines whether agents turn interaction history into stable conventions, and both dimensions are needed to understand how signals become language.