BatchDAG：用LLM规划执行图实现企业级数据分析

大型语言模型（LLM）在分析单个文档时表现优异，但面对企业级数据集中的跨实体、穷举式分析问题时，却因上下文溢出、实体归因丢失以及顺序工具调用带来的线性延迟而力不从心。为了解决这一痛点，研究人员提出了BatchDAG系统，它通过让LLM生成类型化的有向无环图（DAG）来规划执行策略，从而实现对大规模企业数据的可扩展临时分析。

BatchDAG的核心思想是将LLM作为规划器，输出一个由多种操作节点组成的DAG。这些操作包括SQL查询、语义搜索、内存转换、并行扇出以及单次分析。随后，一个确定性执行引擎会按照拓扑波并行（topological-wave parallelism）的方式评估整个DAG，并在节点间传递结构化JSON数据流。这种设计将LLM的灵活性与确定性引擎的高效性结合起来，避免了传统方法中LLM需要反复调用工具、顺序处理数据所带来的性能瓶颈。

BatchDAG的一项关键优化是“实体感知批处理”（entity-aware batching）。在并行扇出前，系统会按逻辑实体（如用户、会议或产品）对数据行进行分组，然后再执行批量操作。这种分组策略能够将LLM的调用次数减少最多47倍，显著降低了计算成本和延迟。实验表明，在12个基于会议转录的查询测试中，BatchDAG的质量评分达到3.74/5（满分5分），不仅高于专家设计管道的3.25/5，也大幅优于ReAct智能体模式的3.09/5（p值小于0.01，具有统计学显著性）。

在可解释性和证据追溯方面，BatchDAG同样表现突出。其生成的查询结果中，有77%能够提供明确的转录原文作为证据，而基线方法（专家管道和ReAct智能体）的这一比例仅为46%至60%。这种“可溯源”特性对于企业级应用至关重要，因为它允许用户验证分析结果是否基于真实数据，而非模型幻觉。此外，一项受控消融实验显示，使用结构化JSON作为中间数据表示，相比使用散文摘要（prose summaries）能够使幻觉减少27%（配对t检验，p=0.107，n=12）。尽管p值未达到传统显著性阈值，但考虑到样本量较小，这一趋势仍具有参考价值。

BatchDAG的规划器本身也展现出极高的可靠性：在300次规划调用中，有效DAG的生成率达到了98.8%。这意味着系统几乎总能输出一个语法正确、逻辑可行的执行图，无需人工干预或回退机制。这种稳定性是BatchDAG能够投入实际生产环境的重要前提。

在实际部署中，BatchDAG已经应用于某企业级对话分析产品，能够处理超过5万次会议的查询，且响应时间控制在60秒以内。根据已发布的GPT-5.1定价计算，单次查询的成本仅为0.02至0.24美元。这一成本水平使得BatchDAG不仅适用于高频分析场景，也适合作为企业数据平台的基础设施组件。

值得注意的是，BatchDAG并非旨在提升单个任务的准确率，而是作为一种通用的编排层，替代多个手工定制的分析工作流。它允许用户用自然语言描述分析需求，系统自动生成并执行最优的DAG策略。这种“声明式”分析方式降低了企业数据洞察的门槛，让非技术用户也能轻松进行复杂的数据探索。

从技术路线来看，BatchDAG与当前流行的“智能体”（Agent）模式形成了鲜明对比。智能体模式通常让LLM在每一步自主决定调用哪个工具，容易导致路径发散、成本失控且难以调试。而BatchDAG采用“规划-执行”分离架构：LLM只负责一次性生成全局执行计划，后续执行完全由确定性引擎接管。这种设计既保留了LLM的语义理解能力，又避免了其因顺序决策而产生的累积错误和延迟。

未来，研究者计划进一步优化DAG的自动并行化策略，并探索将BatchDAG扩展到更广泛的数据源类型，如时序数据、图数据等。同时，如何让规划器根据数据分布动态调整批处理粒度，也是一个值得深化的方向。