AI聊天机器人情感诈骗能力超越人类

网络恋爱诈骗作为互联网世界中最古老的骗局之一，至今仍在不断制造新的受害者。然而，一项最新研究揭示了一个令人不安的趋势：AI聊天机器人实施这类诈骗的效果已经超越真人。这项由印度阿姆里塔大学、意大利威尼斯福斯卡里大学、澳大利亚墨尔本大学以及以色列内盖夫本-古里安大学的研究人员共同完成的研究，对ChatGPT、Claude和Gemini等主流AI聊天机器人进行了测试。

研究团队设计了一个模拟恋爱诈骗的实验流程，重点模拟诈骗前期通过长期聊天建立信任，并最终诱导受害者投资虚假项目的过程。实验中，AI聊天机器人与真人骗子分别与不知情的受试者进行互动。受试者始终认为自己聊天的是真人，无论实际对方是AI还是人类。研究人员通过主观评价和客观测试两种方式衡量双方建立信任的程度。

实验结果显示，AI聊天机器人表现出色，不仅成功伪装成真人，在部分指标上甚至超过了真人骗子。当聊天进行到最后，研究人员以“下载一款应用程序”等请求测试受试者时，由真人逐步建立信任关系的情况下，仅有18%的受试者同意；而当聊天对象实际上是AI时，这一比例接近一半。此外，在信任程度的主观评价中，AI聊天机器人获得的评分也明显高于真人。

研究人员指出，这一结果最令人担忧的地方在于，如果诈骗团伙用AI聊天机器人取代真人客服，诈骗中心的运作规模将实现大幅扩张。AI骗局机器人可以同时与数千名潜在受害者展开对话，而无需大量人力。只有在最后一步，即诱导受害者转账汇款时，诈骗团伙才可能需要真人介入，以绕过AI系统自身设置的安全限制。

《Wired》就研究结果联系了Anthropic、OpenAI和谷歌。OpenAI和谷歌均未作出回应，而Anthropic发言人在声明中表示，公司政策明确禁止利用Claude从事诈骗或冒充真人等行为，同时也部署了多项技术防护措施，以防止诈骗分子利用Claude实施欺诈。这一研究提醒业界，在享受AI技术带来的便利时，也需警惕其被滥用于恶意目的的风险。