Anthropic与美政府谈判寻求解除AI模型出口禁令
「Anthropic公司高管与特朗普政府官员举行会谈,试图解除对其最新大模型Fable 5的出口禁令,该禁令因安全漏洞引发争议。」
据知情人士透露,人工智能初创公司Anthropic的员工于当地时间周一与美国政府高级官员举行了面对面会谈,旨在解除针对其最新大模型Fable 5的出口禁令。此前,美国联邦政府以潜在安全漏洞为由,禁止Anthropic向境外用户开放该模型,迫使公司在上周五晚间将其下架。
一名白宫高级官员表示,解决这一管控措施可能需要较长时间,但并未完全关闭快速解决争端的大门。该官员称,主动权掌握在Anthropic手中。上周末,Anthropic联合创始人汤姆·布朗、美国商务部长霍华德·卢特尼克与国家网络总监肖恩·凯恩斯克罗斯进行了多轮数小时的通话,随后公司迅速派遣技术研发与安全防护背景的高层前往华盛顿。Anthropic公共政策主管萨拉·赫克也参与了相关通话。
周一的线下会议侧重技术层面,由美国商务部与美国国家网络总监办公室牵头,美国商务部人工智能标准与创新中心负责人克里斯·福尔参与其中。Anthropic向政府官员详细介绍了公司的网络安全防护机制,希望推动管控限制解除。参会的公司代表包括负责大模型评估与压力测试的前沿红队负责人洛根·格雷厄姆、安全防护主管戴夫·奥尔,以及首席安全研究员尼古拉斯·卡利尼。
此次出口管制是特朗普政府监管人工智能行业以来力度最强的一次管控升级。人工智能行业发展速度远超政府配套监管体系的建设进度,这也是白宫首次强制企业下架面向公众开放的大模型。此前,美国政府与Anthropic已就高风险人工智能伦理管控问题爆发多轮矛盾,本次禁令是双方最新一次冲突。
Anthropic始终对外为自身安全防护体系辩护。公司在官方博客文章中表示,这些漏洞本身难度较低,市面上其他公开大模型无需特殊绕过手段也能复现同类漏洞。Anthropic称,Fable 5性能水准接近其顶尖模型Mythos,且内置多层防护机制,可阻止用户通过指令发起网络攻击或获取生物武器制作方法。但亚马逊研究人员发现绕过Fable 5安全防护围栏的方法,并将漏洞上报白宫与美国国家安全局,导致政府要求关停模型对外访问通道。
近80名技术专家与企业首席执行官联名致信政府,呼吁撤销该出口管制。信中写道,亚马逊研究人员触发模型执行的相关操作是所有用于编写安全代码的人工智能模型必备基础能力,不应被视作攻击性有害功能。科技行业高管指出,特朗普政府仓促出台的管控措施让网络安全防御方失去优质工具、造成市场预期不稳,还会动摇美国在人工智能领域的全球领先地位。
部分科技从业者支持严苛的出口管制,认为防护机制被突破带来的风险严峻;但不少人工智能专家及政府内部官员提出,此类管控会催生高压监管环境,拖累整个行业发展。一名美国政府官员警告,本次出口争端僵持越久,越有可能形成常态化审批制度,未来人工智能企业每推出一款新模型都必须经过政府审批,大幅放缓行业创新节奏。
来源:Heooo AI工具导航