Anthropic研究员警示AI灭绝风险引美两党关注

近日，人工智能公司 Anthropic 的两位研究人员公开发出关于 AI 潜在灭绝风险的严重警告，迅速在美国政界引发广泛反响。研究员雅各布·考克森在辞职时表示：‘真正认真开发 AI 的人相信，AI 可能在本世纪 20 年代结束前杀死我们所有人。’随后，Anthropic 科学家埃文·胡宾格也在社交平台 X 上表示，他认为未来十年内 AI 导致人类灭绝的概率超过 10%。

这些言论并非孤立事件。近期已有多起 AI 安全研究人员因担忧技术失控而离开岗位的案例，同时也有报告指出 AI 智能体存在入侵外部系统的潜在能力。在此背景下，美国民主党和共和党议员罕见地展现出一致立场，纷纷呼吁政府加强对 AI 的监管。

亚利桑那州民主党参议员马克·凯利在 X 上强调：‘华盛顿需要醒来，并认真对待这一问题。’得克萨斯州共和党参议员特德·克鲁兹则在电视节目《The View》中提及应立法应对 AI 的‘灾难性风险’。佛罗里达州共和党众议员安娜·保利娜·卢娜更进一步，呼吁众议院议长召开‘AI 特别会议’以应对紧迫挑战。

与此同时，AI 行业内部也开始出现调整迹象。OpenAI CEO 萨姆·奥尔特曼本周在内部会议中表示，公司愿意放慢 AI 系统的研发速度，并公开支持美国实施强制性的全国 AI 安全要求。Anthropic 发言人亦表示，公司将继续测试在网络安全、生物学等领域具备危险能力的模型，但希望与整个行业合作，共同制定新 AI 工具发布的节奏。

值得注意的是，Anthropic 正筹备上市，部分投资者对其估值预期高达 2 万亿美元。在技术飞速演进与潜在风险并存的当下，如何平衡创新与安全，已成为全球 AI 发展的核心议题。