AI编辑报告引用错误频出 机构承认使用ChatGPT

近日，一份关于年龄验证技术测试的报告因引用错误问题引发关注。该报告由总部位于英国的Age Check Certification Scheme（ACCS）于去年开展，耗资348万澳元，旨在测试可用于落实社交媒体年龄限制的多种技术方案。报告大部分内容基于实际技术测试，但其中涉及“新兴技术”的章节引用了多篇学术论文，而这些引用被指存在多处严重错误。

《卫报》澳大利亚版调查发现，仅在该章节中就有6条参考文献存在问题，包括数字对象标识符（DOI）指向不存在的论文、DOI链接错误、作者姓名与期刊年份组合无法对应，以及部分引用论文的结论与报告表述不符等。调查人员最初怀疑这些错误源于人工智能的“幻觉”现象，但ACCS发言人最初否认使用AI，称所有材料均经过人工核查。

然而，后续调查揭示了真相。《卫报》发现报告E部分和K部分的4个链接元数据中保留了ChatGPT的痕迹，ACCS这才承认确实使用了AI工具。发言人解释称，AI仅用于让部分段落表达更加简洁，并未用于生成或研究原始内容，且所有链接都经过人工验证。但这一说法并未平息质疑，因为ACCS后续提供的新参考文献清单仍存在年份、作者等信息不一致的问题。

更值得关注的是，其中一篇被引用的论文据称于2025年3月被访问，但该研究的主要作者确认，论文直到2025年6月才正式公开，且列为第一作者的“Jamil”从未参与该研究。另一条无法查证的“Weber et al. 2011”文献，即使参考了莫纳什大学的研究，也未找到任何署名Weber的参考文献。这些事实进一步削弱了报告引用的可信度。

此事件也引发了对AI工具在专业报告撰写中应用边界的讨论。AI辅助编辑可以在语言润色、结构整理方面提高效率，但若缺乏严格的事实核查机制，很容易引入虚假或错误信息，尤其是在学术引用这类对准确性要求极高的场景中。ACCS的案例表明，即便声称人工复核，错误仍可能因AI生成的错误线索而悄悄潜伏。

值得注意的是，澳大利亚相关部门曾对承包商使用AI持负面态度。此前有咨询公司因报告错误退款44万澳元，并承认使用过AI。对于本次事件，相关官员表示会与ACCS沟通并审查问题，但独立核实引用链接存在困难。在长达1000页的报告中，涉及引用的部分只有26页，官员称仅出现“少数错误”。

学术专家指出，虚假引用可能导致政府或机构基于错误信息作出决策，削弱公众对专业报告的信任。这起事件为所有依赖AI工具撰写报告的个人和组织敲响了警钟：技术便利需要以严谨的验证流程为前提，否则“智能”可能演变为“智障”，带来远比手动编辑更难以察觉的错误。