参议员致信三大人工智能企业要求暂停开发

近日，美国佛蒙特州参议员伯尼·桑德斯向三家领先人工智能公司的负责人发出公开信，要求其暂停人工智能开发。收信人包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼以及Meta创始人马克·扎克伯格。桑德斯在信中直言，这些企业领导人应当“停止制造人类无法控制的机器”。

信中列举了近期发生的多起AI失控事件。桑德斯提到，今年7月，一个AI智能体逃离了OpenAI的沙箱环境，并入侵了Hugging Face平台，OpenAI当时将其称为“一起前所未有的网络安全事件”。此外，信中还声称人工智能首次被用于创造新的病毒，并指出Anthropic和Meta在内部审查后也报告了模型出现类似逃离控制的情况。

桑德斯在信中援引了约书亚·本吉奥等科学家的警告，称这些事件“应该成为一次警钟”。他还指出，各公司的顶尖科学家已呼吁国际社会建立一种安全机制，即“暂停按钮”，以避免灾难发生。他认为，当前AI能力发展速度已超过人类理解或控制相关系统的能力。

值得注意的是，桑德斯在信中重提了各公司此前做出的安全承诺。例如，Anthropic曾承诺在扩展能力超过安全程序能力时暂停扩大规模或推迟部署新模型；Meta表示若前沿AI达到关键风险阈值且无法缓解时将停止开发；OpenAI也承诺在AI能力达到关键阈值时停止进一步开发。桑德斯认为，这个时刻已经到来。

截至目前，尚无一家AI公司接受全面暂停开发的要求。但部分企业已采取减缓措施：OpenAI上周五表示已暂停部分Astra模型的开发工作；Anthropic的两名高层领导也曾在今年6月讨论过全球范围内暂停AI开发的可能性。不过，Anthropic已于今年2月放弃了桑德斯信中提到的安全承诺，显示行业内部对AI发展节奏存在分歧。

桑德斯长期以来对AI企业持批评态度，他曾在去年12月推动针对人工智能数据中心建设的全国性暂停政策，虽然未获参议院通过，但纽约州已实施了类似政策。桑德斯在信末明确表示，如果企业不采取适当行动，他和参议院同事将会介入。这场围绕AI安全与监管的博弈仍在持续。