大语言模型与代理管道解释ICU死亡率对比

重症监护病房的死亡率预测是临床决策支持领域的重要研究方向。机器学习模型在预测准确率上已表现出色，但如何向临床医生清晰解释每次预测的依据，仍是一个亟待解决的问题。传统的特征归因方法，例如SHAP，虽然能够列出各个特征的量化贡献，却难以生成完整的临床叙述。大语言模型凭借其自然语言生成能力，有望填补这一空白。更进一步，多步代理管道通过将数据解释、指南检查和最终解释等步骤分离，提供了另一种可行路径。

这项研究在eICU Demo数据集上开展，共纳入2353次ICU住院记录，队列死亡率为百分之八点一。在模型层面，研究团队使用XGBoost训练死亡率预测模型，取得了0.855的AUROC和0.332的AUPRC。这两个指标表明模型具备较好的区分能力，也印证了后续解释任务建立在可靠的预测基础之上。在解释层面，研究从整体数据中分层抽取了38个病例构成解释子集，并设计了独立大语言模型与预设四步代理管道的对比方案。

研究结果显示，在38个病例中，独立大语言模型生成了一个包含显式结果泄漏的解释，而四步代理管道没有产生此类问题。这说明代理管道在防止信息泄露方面具有结构上的优势。进一步地，研究挑选了14个与SHAP复核子集重叠的病例进行细致分析。在归因对齐维度，独立大语言模型的平均Jaccard指数达到0.171，方向一致性为百分之九十二点九，明显高于代理管道的0.077和百分之七十八点六。这表明在捕捉具体特征重要性上，独立大语言模型更贴近传统的归因方法。

然而，代理管道在临床上更相关的维度上表现出色。其指南基础得分达到0.762，而独立大语言模型仅为0.143。数值特异性方面，代理管道为0.236，独立大语言模型为0.143。此外，代理管道的解释合理性也略高，达到0.700，对应独立大语言模型的0.671。这些结果提示，将解释过程分解为多个受控步骤，可以更好地让输出对齐临床指南，并提供更具体的患者个体化信息。

该研究的临床意义值得关注。代理管道通过引入指南检查等中间环节，显著提升了安全相关的解释质量，降低了结果泄漏的风险。但与此同时，它的归因对齐度不如独立大语言模型。因此，在高风险的死亡率预测解释任务中，不能单纯依赖代理管道，而应该将其与归因校验手段结合，确保最终解释同时具备安全性和准确性。这项可行性研究为未来部署可解释的临床预测系统提供了实证基础，也指明了继续优化的方向。