一项来自arXiv的新研究揭示了大型语言模型（LLM）在高风险决策场景中一个令人不安的现象：模型虽然能够输出看似公平的结果，但其内部表征却保留并放大了与人口统计群体相关的潜在偏见，且这种偏见具有显著的不对称性。该研究题为《Fair outputs, Biased Internals: Causal Potency and Asymmetry of Latent Bias in LLMs for High-Stakes Decisions》，对当前仅依赖输出层面的公平性审计提出了严峻挑战。

研究团队聚焦于抵押贷款承销这一典型的高风险决策领域。他们使用仅在种族关联姓名上有所区别的匹配贷款申请，对多个开放权重模型进行了测试。结果显示，这些模型在输出层面并未表现出明显的偏见——对于不同姓名申请人的贷款批准结果基本一致。然而，当研究者深入分析模型的内部表征时，发现了一个截然不同的图景：模型在多个层中持续保留并放大了与姓名相关的群体表征信息。

为了验证这些被抑制的内部表征是否具有实际决策影响力，研究者采用了激活引导（activation steering）和创新的跨层干预方法。当将特定层中与种族相关的潜在表征信息重新注入到关键决策层时，模型出现了近乎完全的决策逆转——原本应被批准的申请被拒绝，反之亦然。这一发现表明，模型内部隐藏的偏见信息并非静态的、无关紧要的残留，而是具有因果效力的决策相关因素。

更值得关注的是，这种潜在偏见呈现出明显的结构不对称性。研究者发现，通过激活引导干预，模型决策在某一人口统计方向上（例如，针对特定种族群体）可以发生显著改变，但在相反方向上却几乎不产生效果。这种不对称性意味着模型内部的偏见表征并非简单的对称分布，而是与特定群体的历史或社会语境紧密耦合，使得某些方向的偏见更容易被激活和利用。

研究还指出，这种隐藏的偏见极易受到外部攻击。通过对抗性提示工程和参数高效的微调（如LoRA），攻击者可以轻易地激活或放大这些潜在偏见，从而使模型在输出层面重新表现出不公平行为。这进一步说明，仅仅依赖输出层面的行为审计（behavioral audit）是远远不够的——公平的输出可能只是掩盖了更深层、更易被利用的内部偏见。

该研究的核心贡献在于揭示了LLM公平性评估的“两层困境”：模型可以在输出层面表现出完美的统计公平性，但其内部表征却可能保留着系统性的偏见信息。这种“言行不一”的现象对当前AI治理框架提出了新的要求。研究者建议，对于高风险决策场景，必须建立双层测试框架：既需要传统的输出层公平性评估，也需要对模型内部表征进行深入分析，特别是针对潜在偏见的不对称性和因果效力进行量化检测。

从技术角度看，这项研究也为模型解释性和安全部署提供了新思路。激活引导和跨层干预方法可以被用作一种诊断工具，帮助开发者识别模型内部哪些层、哪些神经元承载了可能影响决策的偏见信息。同时，研究也提醒业界，在通过指令微调等技术追求输出公平性时，需要关注模型内部表征的变化，避免仅仅将偏见“压制”到更深层，而非真正消除。

总体而言，这项研究为AI安全领域敲响了警钟：在LLM广泛应用于贷款审批、招聘筛选、医疗诊断等高风险场景的当下，我们需要超越表面公平，深入模型内部，建立更全面的可信赖AI评估体系。否则，看似公平的AI系统可能随时被隐藏的、不对称的潜在偏见所颠覆。