谷歌 DeepMind 前员工警告：AI 或灭绝人类

谷歌 DeepMind 的一名前研究工程师比拉尔·丘格泰（Bilal Chughtai）在社交平台 X 上发文，成为最新一位公开表达人工智能生存风险担忧的研究者。他表示，自己由衷相信 AI 有能力灭绝人类，而人类用来规避这一后果的时间可能正在耗尽。

据公开资料显示，丘格泰在谷歌 DeepMind 任职期间担任研究工程师，曾参与多篇研究论文的撰写，研究方向集中在通用人工智能（AGI）的安全与对齐领域。

他的表态并非孤立事件。此前，Anthropic 研究员雅各布·考克森（Jacob Coxon）表示自己已经离职，部分原因是投身 AI 研发的人真心相信，到本十年末，AI 有可能害死所有人。随后，Anthropic 科学家埃文·胡宾格（Evan Hubinger）对考克森的言论作出回应，认为他说得没错，并称自己估测未来十年内 AI 灭绝全人类的概率超过 10%。

受这一系列风险担忧影响，Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁放缓前沿 AI 的研发速度。这一提议罕见地获得埃隆·马斯克（Elon Musk）与 OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）的支持，也引发了围绕 AI 末日论的公开争论。

不过，丘格泰并未把结论停留在悲观层面。他同时强调，安全驾驭 AI 是可行的，但需要多方协同，避免 AI 企业之间这场疯狂的竞赛。他补充说，需要把 AI 的发展节奏控制在社会能够承受的范围，在严重危害真正发生前，及时应对新出现的各类风险。

从技术角度看，这些讨论指向的是 AI 对齐与安全研究中的核心难题：如何让能力不断提升的模型始终按照人类意图行事。随着前沿模型的训练规模、自主性与工具调用能力持续提升，对齐研究的优先级正在行业内部被不断抬高，如何在模型发布前完成充分的风险评估与安全验证，也成为研发流程中越来越受关注的一环。

值得注意的是，这场争论的参与者来自多家头部 AI 实验室，观点分歧主要集中在研发节奏而非技术路线本身。一方主张以更慢的节奏推进前沿模型训练，为安全研究留出空间；另一方则担心过度放缓会让安全研究本身失去对技术的理解与掌控能力。可以确定的是，AI 安全与对齐已经从学术圈的边缘议题，走到了产业讨论的中心位置。