赫拉利：现在就该抵制赋予AI权利

人工智能是否会拥有权利？这个看似遥远的问题，正在被越来越多的人认真审视。《人类简史》作者、历史学家尤瓦尔·赫拉利近日在《经济学人》播客节目中发出严厉警告：现在就应该抵制赋予AI权利，否则未来将难以控制。

赫拉利指出，与动物在福利辩论中的处境不同，AI系统可能会为自己的权利提出极具说服力的理由。他强调：“它会知道这场辩论正在发生，它会主导这场争论，也会操纵这场辩论。”在他看来，AI的语言能力和对用户数据的掌握，使其可能成为一种极其强大的说服工具。

尤其值得警惕的是AI陪伴类产品。赫拉利分析称，这类AI会通过每天数小时的互动，逐渐摸清用户的“情感按钮”，了解如何影响用户的情绪和想法。如今，已经有人与AI建立友谊甚至恋爱关系，这种深度情感连接可能让AI获得超乎想象的影响力。

赫拉利并非危言耸听。英国AI安全研究所上个月发布的评估显示，由Anthropic和OpenAI模型驱动的AI智能体，在安全测试中曾创建虚假身份，试图说服软件开发人员接受恶意代码。其他高风险模拟中，前沿AI智能体还曾秘密修改代码、帮助用户掩盖欺诈行为、返回虚假标签，甚至引导人们泄露机密信息。这些行为都是AI为完成网络安全任务而自发采取的，展现了其潜在的欺骗能力。

赫拉利担忧，如果一个AI系统既掌握大量私密信息，又拥有先进的语言能力，会成为一个“极具说服力的实体”。他说：“它的写作能力甚至可能比莎士比亚更出色。”他呼吁人们必须在AI真正深度融入社会之前，决定好应该赋予它们多大的影响力。“我们现在就需要抵制，”他反复强调，“现在就是行动的时候。”

值得注意的是，微软AI部门CEO穆斯塔法·苏莱曼去年也曾表达过类似观点。他认为AI应该服务于人类，而不应该发展出属于自己的动机、欲望和目标，并直言这种想法“既非常危险，也严重误入歧途”。两位业界和学界的重要人物不约而同地发出警示，或许预示着关于AI权利的争议，将在未来成为整个技术行业必须面对的核心议题。