医疗AI转录工具错误频发 患者安全敲响警钟

英国国家医疗服务体系（NHS）的一家监管机构近日发出警告，用于倾听并转录患者与医生问诊内容的AI技术可能给患者带来风险。这类工具可能错误识别药物名称和疾病名称，甚至生成完全不存在的内容，从而对患者安全构成直接威胁。

在一起案例中，一名女性患者因为AI医疗记录工具错误总结她与医生的对话而受到严重惊吓。AI生成的总结称她患有“脱髓鞘”，即可能导致多发性硬化症的严重神经损伤。这名患者本人也是NHS医疗专业人员，她对AI工具记录的MRI检查结果提出质疑后，医院才发现问题并将其更正为本应记录的“无脱髓鞘”。她表示：“最终这个错误得到了纠正，但因为AI给出了错误诊断，然后又告诉我这只是一个拼写错误，这对我来说是一次非常痛苦的经历。”

英国患者权益机构Healthwatch England近日披露了这一案例以及其他AI医疗记录工具出现的错误，以说明这种正在NHS快速推广的技术可能对患者安全构成威胁。Healthwatch表示，如果这些错误没有被及时发现，就可能被录入患者的医疗档案，并进一步影响患者接受的治疗。另一起案例中，一款AI医疗记录工具将全科医生开具的药物与另一种名称相似的药物混淆，最终发现这一错误的不是医生，而是患者本人。还有一次，AI生成的总结信没有提及医院专科医生曾告诉患者需要向自己的全科医生申请续开治疗偏头痛的处方，这一遗漏可能导致患者无法正常获得所需药物。

作为NHS法定患者权益代表机构，Healthwatch已经听到了“多名患者发现错误、而医疗专业人员却没有发现这些错误”的案例。Healthwatch指出：“如果患者没有发现这些错误，这些不准确的信息可能会一直留在他们的医疗记录中。”该机构发言人表示：“医疗服务从来都不可能做到零错误。但我们的调查结果表明，现在迫切需要明确，患者应该如何报告AI医疗记录工具或使用这些工具的医疗专业人员所犯的错误，以及如何纠正这些错误。”

值得注意的是，Healthwatch还表示，英国药品和保健产品监管机构（MHRA）决定不将AI医疗记录工具归类为医疗器械，这一点“令人担忧”。这意味着英格兰目前不会建立覆盖全境的监管机制，以确保这些工具使用安全并且有效。目前，英格兰的全科医生和医院医生已经在使用27种不同的AI医疗记录工具。

伦敦全科医生Shier Ziser Dawood博士曾在一家权威医学期刊上撰文警告称，AI医疗记录工具对全科医生来说可能是一把“双刃剑”。她回忆称，一款AI医疗记录工具记录说，她曾告诉一名患者“继续服用Prozac（百忧解）”，但实际上她既没有给这名患者开过这种药，也没有与患者讨论过这种药物。这就是所谓的“AI幻觉”现象，即AI医疗记录工具在生成记录时提及了问诊过程中根本没有出现过的内容。Dawood警告称，医生仍然需要检查AI生成的全部问诊记录，以确认其中不存在错误，因此这些AI工具目前并没有真正节省医生的时间。

瑞典乌普萨拉大学医疗AI应用专家Charlotte Blease博士表示：“AI确实会犯错，而且已经在犯错。”她的研究发现，使用环境语音技术记录问诊内容的全科医生认为，在问诊过程中有不止一名患者或陪同人员、患者病史较为复杂、以及患者的第一语言不是英语等情况下，AI更容易出现错误。不过Blease也指出：“事实是，没有AI的情况下，医生同样会犯错。而且，AI介入后，错误率当然也有可能更高。”在她去年对1003名英国全科医生进行的调查中，超过一半的受访者认为，他们使用环境式AI生成的医疗记录比自己亲自记录的内容更加准确。