政策法规

萨克斯抨击 Anthropic 和 OpenAI:安全产品应自造

Heooo 09月16日01时35分 38 阅读

「美国科学与技术顾问委员会联合主席戴维·萨克斯公开抨击 Anthropic 和 OpenAI,认为顶级 AI 公司应当自行制造安全产品,必要时按自身节奏推进,而非寄望外部干预。他还批评 Anthropic CEO 阿莫迪呼吁放缓发展并寻求反垄断豁免,强调模型若引发破坏性网络攻击,企业将面临巨大责任风险。」

围绕人工智能安全与产品责任的争论正在升温。据彭博社报道,美国科学与技术顾问委员会联合主席戴维·萨克斯(David Sacks)在接受采访时表示,顶级人工智能公司 Anthropic 和 OpenAI 应当制造安全的产品,并在必要时按照自己的节奏推进研发,而不必寄望于外部干预。

萨克斯的表态直接回应了 Anthropic CEO 达里奥·阿莫迪(Dario Amodei)上周末发表的文章。阿莫迪在文中呼吁企业放缓 AI 发展步伐,并建议给予 Anthropic 及其竞争对手反垄断豁免,以便各方就协调放缓发展所需的“安全对话”进行沟通。萨克斯对此予以抨击,认为这类诉求在客观上会削弱竞争,并拖慢技术迭代。

萨克斯还回应了前联邦贸易委员会主席莉娜·可汗(Lina Khan)的观点,表示认同大型人工智能公司因其模型而承担产品责任:如果制造出不安全的技术,企业可能面临民事甚至刑事诉讼。他此前在社交账号上更直接地指出,如果相关产品导致真正具有破坏性的网络攻击,公司将面临巨大的责任风险,而市场本身已经在惩罚那些行为不可预测或未经授权的模型。

这场交锋折射出 AI 行业当前的核心分歧:一方认为前沿模型的潜在风险具有系统性,需要跨公司协调,甚至同步放缓发展节奏;另一方则主张安全应当以产品形式交付,通过责任机制和市场约束来倒逼改进。前者希望通过沟通避免“竞相降低安全标准”,后者则担心这种沟通会演变为变相的联合行动。

对开发者与使用方而言,值得关注的是产品责任正从抽象讨论走向具体约束。模型一旦被用于自动化攻击、漏洞挖掘或大规模欺诈,责任归属将不再局限于技术层面,而会直接牵涉企业的法律与商业风险。这也会反向影响模型发布策略、能力评估流程与安全防护设计,例如更严格的权限控制、滥用监测、红队测试与上线前的风险分级。

从技术演进的角度看,这场争论最终会落到工程细节上:谁来做安全评估,评估标准如何公开,模型能力与防护措施如何匹配。无论立场如何,把安全能力沉淀到产品与工程流程中,已经成为前沿 AI 公司无法回避的基本功。

# AI安全 # 产品责任 # Anthropic # OpenAI

来源:Heooo AI工具导航