自2022年11月ChatGPT发布以来，生成式AI聊天服务迅速普及，深度嵌入搜索引擎、开发工具和办公软件，成为许多人日常计算的一部分。这些工具在探索陌生领域和提升生产力方面表现出色，但作者Susam Pal在Hacker News上发文指出，AI服务的营销和消费方式可能对社会构成潜在危险，尤其是当用户习惯性地信任AI输出而不加审视时。

文章指出，现代AI系统的某些设计选择鼓励了对输出的无批判接受。例如，许多搜索引擎将AI生成的答案高亮显示在页面顶部，用户容易停止滚动、直接采纳答案。长此以往，这种交互模式可能无意中训练用户将AI视为默认权威，而非进一步调查的起点。作者呼吁每个生成式AI服务都应附带简短但醒目的警告，说明系统可能产生事实错误、误导性或片面的输出，并强调习惯性信任AI输出可能带来的危险。然而，即使存在此类警告，它们往往被设计得最小化且视觉上被弱化。

受科幻作家艾萨克·阿西莫夫“机器人三定律”的启发，作者提出了适用于人类的“反机器人三定律”。阿西莫夫的原定律旨在约束机器人行为以保护人类安全，但作者认为，现在需要一套指导人类如何与机器人交互的法则，以保护自身安全。这里的“机器人”泛指任何能够自动执行复杂任务的机器、计算机程序、软件服务或AI系统。作者使用“反”字并非逻辑否定，而是强调这些定律适用于人类而非机器人。

文章承认阿西莫夫的定律存在缺陷，但指出这些缺陷在虚构机器人中的表现并不必然适用于人类的反定律。阿西莫夫的定律试图约束自主机器人的行为，而反定律旨在指导人类的判断和行为。尽管如此，从阿西莫夫的故事中可以学到，任何有限的法则都无法完美应对AI和机器人带来的复杂问题，但这不意味着我们不应尝试制定准则。边缘情况总会存在，但建立基本原则仍有助于减少风险。

作者进一步提出三条反定律：第一，人类应始终对AI输出保持批判性态度，不将其视为最终答案；第二，人类应主动验证AI提供的信息，尤其是关键决策领域；第三，人类应意识到AI系统的局限性，包括其可能存在的偏见和错误。这些定律并非法律条文，而是认知框架，旨在培养用户在与AI交互时的审慎习惯。

文章最后强调，随着AI技术的加速普及，社会需要更多关于AI素养的教育。用户不应将AI视为无所不知的权威，而应将其作为辅助工具，结合自身判断和外部验证来使用。作者呼吁技术公司在设计产品时，应优先考虑用户的安全和知情权，而非仅仅追求交互流畅性。这种反思对于构建健康的人机协作关系至关重要。