自2022年11月ChatGPT发布以来，生成式AI聊天服务变得越来越复杂和流行。这些系统已嵌入搜索引擎、软件开发工具以及办公软件中，迅速成为许多人日常计算的一部分。这些服务在探索不熟悉的话题和提高生产力方面确实非常有用。然而，作者Susam Pal也指出，这些服务的推广和消费方式可能对社会构成危险，尤其是如果我们习惯于不加审查地信任其输出。

现代AI系统中的某些设计选择可能鼓励用户不加批判地接受其输出。例如，许多流行的搜索引擎已经在页面顶部突出显示AI生成的答案。当这种情况发生时，用户很容易停止滚动、接受生成的答案并继续前进。随着时间的推移，这可能会无意中训练用户将AI视为默认权威，而不是进一步调查的起点。作者希望每个生成式AI服务都附带一个简短但显眼的警告，解释这些系统有时可能会产生事实上不正确、误导或不完整的输出。这类警告应强调习惯性信任AI输出可能带来的危险。然而，即使存在这样的警告，它们往往也是最小化的，并且在视觉上被淡化。

在科幻世界中，有艾萨克·阿西莫夫设计的机器人三定律，这些定律贯穿他的作品，旨在约束机器人的行为以保护人类安全。但据作者所知，阿西莫夫从未制定过任何关于人类应如何与机器人互动的等效定律。作者认为，我们现在需要类似的东西来保护自己，并将其命名为“机器人逆定律”。这些定律适用于任何需要人类与机器人互动的情况，其中“机器人”一词指任何能够自动执行复杂任务的机器、计算机程序、软件服务或AI系统。这里使用“逆”一词并非逻辑否定，而是表示这些定律适用于人类而非机器人。

以下是三大机器人逆定律：

1. 人类不得将AI系统拟人化。即，人类不得将情感、意图或道德能动性归因于AI系统。拟人化会扭曲判断。在极端情况下，拟人化可能导致情感依赖。现代聊天机器人系统通常听起来像对话且富有同理心，它们使用礼貌的措辞和情感表达，这很容易诱使用户将其视为有意识的存在。但AI系统没有情感或意图，它们只是根据训练数据中的模式生成文本。将AI拟人化可能导致用户高估其能力，或对其输出产生不恰当的情感依恋。

2. 人类不得盲目信任AI系统的输出。AI系统可能会产生事实上不正确、误导或不完整的输出。习惯性信任AI输出可能是危险的。用户应始终将AI输出视为进一步调查的起点，而不是最终权威。这需要用户保持批判性思维，验证AI生成的信息，尤其是在涉及健康、财务或法律等关键领域时。

3. 人类必须对使用AI系统产生的后果承担全部责任和问责。无论AI系统多么先进，最终的责任始终落在人类身上。如果AI的输出导致错误或伤害，用户或开发者不能将责任推给AI系统。这一原则强调了人类在AI协作中的主导地位和道德责任。例如，在医疗诊断或自动驾驶中，即使AI提供了建议，人类决策者仍需对结果负责。

这些逆定律并非技术性规定，而是对人类行为的道德指引。它们提醒我们，在享受AI带来的便利时，不能放弃人类的判断力和责任感。随着AI技术继续渗透到生活的方方面面，遵守这些定律将有助于确保人类保持在技术发展的中心位置，而不是被技术所主导。