ChatGPT润色报告现假引用引发信任危机

一份为澳大利亚16岁以下社媒禁令提供技术依据的年龄验证测试报告，因被曝使用ChatGPT润色而陷入信任危机。该报告由英国机构ACCS负责编写，耗资348万澳元。ACCS最初否认使用人工智能，直到媒体在报告链接中发现ChatGPT元数据后才承认，AI被用于改写部分段落。

这份报告的核心内容来自真实技术测试，但其中关于“新兴技术”章节的文献引用出现大量漏洞。媒体核查发现，仅同一章节就有6条参考文献存在明显错误：有的DOI指向根本不存在的论文，有的链接到错误文献，作者、期刊与年份的组合也与任何已知研究对不上。更令人担忧的是，ACCS后续提交的“纠错清单”依然存在年份、作者不符的问题，其中一篇论文的主要作者明确表示自己从未参与该研究，且论文在其声称的访问时间之后才公开发表。

ACCS辩称，AI仅用于让表达更简洁，且链接本身正确，因此不算问题。然而，政府承包商使用AI导致报告出错已有前科。此前，德勤因报告出现AI幻觉错误退还了44万澳元合同款项，澳大利亚联邦政府对这类行为本就持负面态度。学界警告称，虚假引用无论是否由AI造成，都可能误导政府决策并侵蚀公众信任。目前已有议员要求承包商道歉并退款。

这份报告篇幅接近千页，但涉及引用的部分仅26页，却暴露出“少数错误”的辩解难以服众。事件折射出AI在专业文档写作中带来的新风险：当生成式工具被用于润色技术内容时，其幻觉产生的虚假信息可能以看似权威的形式进入关键决策流程。对于依赖外部机构专业能力的政府项目而言，如何确保AI使用的透明度与可追溯性，正在成为必须正视的课题。