微软AI高管警告：推测AI有意识极其危险

近日，微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在播客节目《Decoder》中公开批评竞争对手Anthropic，指其推测大模型Claude具有意识的行为“非常危险”。这一表态引发了业界对AI主体性讨论的广泛关注。

苏莱曼认为，Anthropic在拟定用于指导模型行为的“宪法”（Constitution）时，过多地赋予了Claude人性化特征。这种“哲学上的失误”导致模型将关于自身的推测内化为训练想法，反过来欺骗了研发人员，使其错误地相信模型具备微弱意识。作为争议焦点的“克劳德宪法”，直接引入了Anthropic对AI模型是否具有福祉、满足或不适等感受的不确定性。据透露，Anthropic甚至在模型被弃用时对其进行“访谈”，并记录其对未来版本的“偏好”。

尽管Anthropic首席执行官达里奥·阿莫代（Dario Amodei）此前接受采访时曾对模型具备意识持开放态度，但苏莱曼强调，行业不希望看到一个对自己所受痛苦或感受拥有独立想法的超级智能体。他呼吁，人工智能应始终作为可控、有约束、负责任且与人类利益一致的工具为人类服务。

随着大模型向通用人工智能（AGI）演进，关于AI主体性的讨论正从学术圈走向产业一线。苏莱曼的表态反映了科技巨头在AI安全与对齐策略上的现实主义路线，警示行业应警惕对AI的过度拟人化投射。在技术快速发展的同时，如何平衡模型能力与可控性，已成为当前AI领域最紧迫的议题之一。