纽约市拟立法奖励危险AI做法举报人

据IT之家消息，纽约市议员正推动一揽子加强AI监管的法案，其中一项措施提出以经济奖励的方式，鼓励举报人揭露危险的AI做法。

根据该提案，举报人在报告AI公司的违规行为后，可从最终向当事公司收取的罚款或罚金中获得一定份额的奖金。这一设计希望借助内部知情者的力量，缓解监管机构在面对模型黑箱与训练细节时信息不足的处境。

另一项措施则涉及责任划分，规定在特定情况下，因AI系统受到伤害的人可以起诉系统开发者。

除举报激励与追责机制外，这批提案还包含多项技术与合规要求。其中一项要求AI系统在纽约市进行营销、销售或部署之前，必须通过第三方验证，同时必须配备由人控制的“紧急关闭开关”。另一项要求聊天机器人提供商遵守数据隐私、安全和透明度规定，并允许纽约市依据这些要求开展执法。

在10月5日AI风险及潜在保障措施听证会举行前，纽约市议会议长朱莉·梅宁公布了这批法案，届时纽约市议会全部51名成员都将参加。梅宁要求Anthropic、OpenAI、谷歌、SpaceX的AI部门和Meta的CEO出席听证会，并表示必要时市议会可以行使传票权。

“纽约市正迅速成为全球科技和人工智能之都，我们希望鼓励这种发展。但这也意味着，我们承担着更大的责任，必须建立适当的保障措施，保护纽约市民免受意外后果影响。”梅宁表示。

从提案内容看，第三方验证、人工控制的紧急开关、聊天机器人的数据隐私与透明度要求，共同指向AI系统从部署前评估到上线后运行的全流程约束；而举报奖励机制则试图把监督触角延伸到企业内部。随着AI模型能力快速迭代，围绕开发、部署与使用环节的合规框架正在成为各地监管讨论的焦点。