OpenAI监测犯罪威胁并主动报案

近日，一起涉及人工智能聊天机器人安全机制的司法案件引发关注。据《今日美国》报道，OpenAI向美国联邦调查局举报了一名25岁的佛罗里达州男子，原因是他曾在ChatGPT对话中详细描述了强奸并杀害前女友的计划。这起案例展示了AI公司在发现潜在犯罪威胁时采取的主动行动。

根据法庭记录，该男子曾对ChatGPT表示恐慌性言论，称“会在这个月底之前杀了她”，并透露出强烈的控制欲和嫉妒心理。他是一名被解雇的高盛分析师，今年3月起开始通过ChatGPT倾诉与女友分手后的情绪，内容逐步从情感宣泄转变为具体的暴力威胁，甚至涉及谋杀后自杀的计划。

OpenAI的安全政策允许系统识别用户可能伤害他人的情形，并由专门小组审查相关互动。在情况严重时，OpenAI会直接向执法部门提供线索。此次事件中，联邦探员获得了该用户两个月的ChatGPT聊天记录，并将其交给了当地警长办公室。警员查看记录后表示，内容并非模糊的情绪宣泄，而是体现出反复演练和制定计划的迹象，威胁对象甚至扩大到了前女友的家人。

警方随即上门确认受害者的安全。这名21岁的女性透露，她因对方长期表现出“反复无常、嫉妒心强和控制欲强”的行为而决定分手，甚至不敢当面提出，只能通过电话结束关系。分手后，该男子仍不断通过电话、短信和社交媒体纠缠她，并使用不同应用生成的电话号码继续骚扰。受害者保存了大量带有骚扰、侮辱、性意味和威胁性质的信息截图。

掌握足够证据后，警方于今年5月将该男子逮捕。助理州检察官于6月以加重跟踪骚扰、书面死亡威胁和非法使用手机三项重罪提起诉讼，最高刑期可达25年。经过协商，该男子于8月13日对全部指控认罪，换取无需入狱且不留下重罪定罪记录的协议，最终被判8年缓刑，并须遵守多项限制条件。

这一事件凸显了AI对话系统在安全监测方面的潜力。虽然ChatGPT被广泛用于日常交流和内容生成，但它在识别极端暴力风险时也能发挥预警作用。业内专家认为，此类案例可能促使AI公司进一步优化安全机制，在保护用户隐私与防止潜在犯罪行为之间寻找平衡。同时，这也提醒用户，在AI平台上表达极端意图可能不会被忽视，相关记录或成为司法证据。