LLM代理消息格式影响与层级依赖性研究

大型语言模型（LLM）代理在信息传递过程中，消息格式是否真的重要？这一看似简单的问题，在学术界引发了两种截然不同的观点。一方面，格式优化研究声称结构化消息可以降低成本且不影响准确性；另一方面，格式限制研究则发现施加结构会损害生成质量。然而，现有研究均未考察消息在多跳传递中的表现——当复制保真度而非一次性生成成为主导因素时，情况会如何变化？

来自arXiv的最新预印本论文《Faithful, Not Corrective: Message-Format Effects in Multi-Hop Agent Relays Are Tier-Dependent》通过引入受控中继测试平台，系统性地回答了这一问题。研究团队设计了包含十二个程序化生成的原子事实的简报，在六跳过程中以五种格式（自由自然语言、精确指令自然语言、JSON、三元组、键值对）进行逐跳重新编码，并由固定的强评分器依据程序化真实值进行评分。实验覆盖了两个中继能力层级、一个认知负载条件以及一个配对分支错误注入场景。

核心发现表明，消息格式的影响具有层级依赖性。在忠实中继指令下，强代理几乎实现了无损传递——文献中常见的“电话游戏”崩溃现象并未出现。即使为每跳增加认知负载，格式级别的保真度仍保持不变（差异在±1.8点以内），但生成成本却上升了24%至53%。这一结果挑战了此前关于多跳信息传递必然导致信息衰减的普遍认知，表明在足够强大的代理系统中，格式本身并非信息丢失的主要原因。

然而，当使用弱代理（参数规模1.5B）时，情况截然不同。六跳召回率的格式间差异扩大了8.7倍，从2.3点激增至20.5点。研究揭示，这一现象由两种相反的机制驱动：刚性格式带来的编码代价，以及固定键JSON模式特有的漂移抵抗能力。这两种机制在传递过程中翻转了格式排名，意味着在弱代理环境下，格式选择至关重要。

在配对分支注入实验中，研究团队向某个事实中注入错误值，观察其传播情况。结果显示，一旦错误值出现，在83%至100%的链中会持续存在至最终跳，且与每种格式对真实值的保留能力高度吻合。值得注意的是，错误注入未对相邻事实造成可检测的附带损害。这表明，结构化格式提供的是忠实、错误局部化的通道，而非错误纠正代码。

这一发现对实际应用具有重要指导意义：格式选择应遵循管道中最弱代理的原则。在异构代理系统中，若存在能力较弱的代理，结构化格式（如JSON）可能因其编码代价而表现不佳；而在全强代理系统中，格式选择对保真度影响有限，但成本差异显著。研究还指出，未来工作可探索自适应格式切换策略，根据代理能力动态调整消息格式。

该研究为多代理系统设计提供了关键实证依据，强调了在评估代理通信协议时，必须考虑代理能力的异质性和传递链长度。随着LLM代理在复杂工作流中的广泛应用，理解消息格式与代理能力之间的交互作用，将直接影响系统效率与可靠性。