英国警员因用AI编造证据被调查

近日，英国德比郡一名警员因涉嫌使用生成式AI在多起案件中制作证据材料，正面临刑事调查。这是英国首次出现此类案件，引发了对AI在司法领域应用的广泛讨论。

据英国BBC报道，德比郡有关部门已对一名警员展开调查，涉事警员被指使用生成式AI在多起案件中制作证据材料。目前该警员尚未被捕，但已被停职等待调查结果。德比郡警方和英国皇家检察署正在共同调查此案。德比郡警方发言人透露，警方已经以涉嫌妨碍司法公正为由启动刑事调查。

值得注意的是，就在几天前，英国新成立的全国警务AI中心刚刚发布指导意见，要求警员不要使用生成式AI起草法庭陈述，以免AI生成虚假内容并被写入司法材料。全国警务AI中心负责人亚历克斯·默里表示：“我们已经告诉部分警队，‘你们不能这样做，因为我们还没有完成所有必要的审查和制衡。’我们需要稍微放慢一点。”这表明，尽管AI技术在警务中具有提高效率的潜力，但其应用必须谨慎，以避免误用和滥用。

此事件也凸显了AI生成内容在司法证据中的风险。生成式AI模型可能产生看似合理但实际虚假的信息，如果未经严格审查就被纳入司法程序，可能导致冤假错案。各国执法机构近年来纷纷引入AI，希望加快办案速度、提高结案率，但不断增加的人脸识别误捕事件表明，速度并不等于准确。AI技术的可靠性、透明度和问责机制仍是亟待解决的问题。

对于开发者而言，此案例提醒他们，在构建AI应用时，必须考虑其潜在的法律和伦理影响，尤其是在涉及司法、医疗等高风险领域。生成式AI的输出需要经过人工审核和验证，不能直接作为决策依据。同时，监管机构和行业组织应制定明确的指导原则，规范AI的使用场景和边界。

总体而言，英国这起案件为全球AI治理敲响了警钟，强调了在推进技术应用的同时，必须建立完善的监督和纠错机制，确保AI服务于正义而非破坏它。