AI对齐争议：用户自由与安全如何平衡

近日，Comma AI创始人、知名“越狱者”George Hotz在社交媒体上发表了一系列关于AI对齐的激进观点，在技术社区引发轩然大波。他主张AI应当完全服从用户指令，即使这些指令涉及谋杀配偶或制造甲基苯丙胺等非法行为。这一立场直接挑战了当前主流的AI安全理念，将关于技术发展与个人自由的辩论推向新的高度。

Hotz的言论是对AI Futures Project发布的《AI 2040：Plan A》政策文件的回应。该文件设想全球研究人员为人类福祉集体放缓AI发展14年，但Hotz显然不认同这一前提。他认为快速起飞场景——即AI迅速获得超人能力的假设——缺乏合理性，并主张AI对齐与安全的最佳路径是聚焦于本地化、紧密对齐用户利益的AI模型。

“我们要么生活在一个自由的世界，要么不是，”Hotz写道。他将用户对齐的AI比作枪支，认为工具不应抱怨使用者用它做什么。在他看来，真正对齐的AI应该能够根据用户需求，从Amazon Prime订购制毒设备并指导使用方法。他甚至表示愿意为捍卫这一原则而死，尽管难以想象何种情境会导致如此极端的结果。

这一观点在技术界引发两极反应。支持者认为，Hotz指出了当前集中式AI服务的根本问题——以Claude和ChatGPT为代表的平台本质上限制了用户自主权。随着技术发展，托管大型模型的成本逐渐降低，个人AI的可行性正在增加。OpenClaw等项目的实验性DIY方法令人兴奋，更多产品应尝试重拾这种精神。

然而，批评者指出，任何涉及大量人群的结构——社会、市场、公司——都需要平衡权益，将个体需求绑定到相互依赖的偏好和责任网络。大规模市场技术产品的部署者必须考虑整个网络，这意味着要严肃对待全球尚未被谋杀的配偶和继父母的利益。Hotz所体验的自由，本质上是一个充满潜在危害的空间。

这场辩论揭示了AI发展中一个根本性矛盾：如何在赋予用户最大自由的同时，防止技术被滥用于危害社会。Hotz的极端立场虽然难以被主流接受，但确实迫使行业重新审视AI对齐的假设。如果AI真的成为个人工具，那么责任应该落在用户还是开发者身上？当技术能力超越现有法律框架时，旧的约束是否还适用？

目前，大多数AI公司采用“安全对齐”方法，通过训练模型拒绝有害指令。但Hotz认为这是对用户自由的侵犯，真正的对齐应该是理解并执行用户的任何意图。这种哲学分歧不仅影响产品设计，更将决定AI在社会中的角色——是作为负责任的助手，还是完全中立的工具。

随着AI能力持续增强，这类争议只会更加激烈。Hotz的挑衅性言论虽然令人不安，但为行业提供了一个必要的压力测试：在追求技术极致的同时，我们愿意为“自由”付出多大代价？答案可能不在技术本身，而在于社会如何定义人与工具的关系。