美参议院拟立法要求AI企业自证防范风险

据路透社报道，美国参议院谈判各方正在就一项人工智能监管法案展开讨论。根据一名参议院助理和一名熟悉磋商情况的游说人士透露的信息，这项法案的核心思路是要求AI企业证明自身已经采取合理预防措施，防止旗下工具造成伤害。

具体而言，议员们正在考虑赋予美国商务部长一项新的权力：要求AI开发者拿出证据，证明自己履行了“注意义务”，也就是采取合理措施防止伤害。
除此之外，商务部长还可以派遣政府审计人员直接测试企业的产品，以核实其安全防护是否到位。
不过，这些条款目前仍停留在磋商阶段，法案即便获得国会通过，最终成为法律的希望也不大。

值得注意的是，谈判各方还在讨论让联邦法院参与处理另一种情形。当美国政府认为某些AI模型不安全、希望阻止其发布时，企业可以向联邦法院提出异议，挑战政府的决定。
换句话说，联邦法院可能成为政府与企业之间围绕模型能否发布产生争议的裁决场所。
美国政府究竟能获得多大权力、具体如何安排，目前仍有待各方进一步磋商。

另一名游说人士和一名参议院助理还透露，涉及联邦法院的条款拟禁止各州执行本州法律中针对AI模型某些风险的规定。这意味着一旦相关条款落地，联邦层面的监管框架将优先于各州分散立法，AI模型的合规标准有望趋于统一，企业面对的规则不确定性也会相应降低。

这轮监管讨论的背景，与业界近期不断升温的安全争论密切相关。Anthropic研究员雅各布·考克森宣布辞职，他提到辞职的部分原因是，开发AI的人真心相信，这项技术可能在本世纪20年代结束前杀死我们所有人。这番表态加剧了外界对AI潜在危险的担忧。几家AI巨头的负责人随后呼吁放缓技术发展，全球AI概念股也随之下跌。

从技术社区的角度看，这场立法博弈释放出几个值得关注的信号。
其一，监管重心正在从“事后追责”转向“事前自证”，AI开发者需要主动构建可审计的安全流程与文档体系，才能证明自己履行了注意义务。
其二，政府审计人员直接测试企业产品，意味着模型评测、红队测试、系统卡等技术手段将从企业内部的工程实践，升级为监管合规的必备环节。
其三，企业获得向联邦法院提出异议的权利，也为技术团队在安全争议中提供了申辩通道。

截至目前，法案仍处于磋商阶段，各方在权力边界与具体安排上尚未达成一致。对于AI开发者而言，无论最终立法走向如何，建立可验证、可追溯的安全机制，正在从“加分项”变成参与前沿模型竞争的基础门槛。