韩国拟对滥用AI编造判例的律师处以罚款

据韩国媒体报道，由于人工智能（AI）大模型在生成法律文书时出现“幻觉”问题，导致韩国多地律师在庭审中频繁引用不存在的“虚假判例”，韩国司法部门正加大力度应对这一乱象，计划通过修订法律、完善庭审流程等方式，对滥用AI的行为进行处罚。

韩国法院行政处表示，越来越多的法官反映，原告与律师在庭审中援引不存在的案件与法律条文。首尔某法院的一名法官指出：“以往我只会在判决书脚注里指出律师引用的不实案例，如今这类问题泛滥，我不得不直接在正文括号中逐一标注。”该法官还补充道：“现在我的工作量大幅增加，每一条引用案例都必须逐一核查。”

典型案例包括：大邱高等法院一名代理律师在法律文件中引用了一则不存在的最高法院判例，法院要求其解释后，该律师又举出了另一则同样子虚乌有的案例；光州一名律师引用《民事诉讼法》第451条，但其阐述的内容却与该法条毫无关联；蔚山地方法院的一名律师援引了不相干的最高法院判例，事后承认自己借助谷歌Gemini大模型检索判例后，并未仔细核对内容。

为整治这一乱象，韩国司法界正推动修订法律，授权法院对提交虚假法条、虚假判例的律师处以罚款。同时，司法部门计划修改庭审程序规则，要求诉讼各方主动说明是否使用人工智能撰写法律文书。目前，针对AI不当使用问题，韩国法院可采取限制当庭辩论、提请对涉事律师予以惩戒，或是判令其承担额外诉讼费用（若滥用AI导致庭审延误）等处理方式。

此外，韩国司法信息公开门户已于今年2月新增案例编号核验功能，可查验案件是否真实存在。相关部门还向法官发放指南手册，指导大家利用人工智能甄别虚假判例，手册中附带专用提示词，方便法官核查引用案例的真伪。韩国法院行政处已获批161亿韩元（约合7179万元人民币）专项资金，用于搭建司法系统内部专属人工智能平台。今年2月，该院已上线人工智能庭审辅助系统试点版本，系统收录了最高法院判例、裁判文书、实务手册及法律释义等资料。该项目共分四个阶段，目前第一阶段工作已完成，司法部门还计划将生成式人工智能接入这套系统。