Anthropic新模型用于网络攻防引发争议
「AI初创企业Anthropic与美国国安局合作部署Claude Mythos大模型用于网络攻防,模型具备自主利用漏洞能力,引发全球安全担忧。」
人工智能初创企业Anthropic近日被曝出与美国国家安全局达成深度合作,协助其部署最新的高性能Claude Mythos大模型用于进攻性网络作战。据知情人士透露,Anthropic甚至向国安局派驻了约六名技术工程师进行驻场支持,负责指导该模型的落地使用,并根据特定作战需求对AI模型进行深度定制与调优。
作为一款具备极高安全风险的工具,Claude Mythos大模型在今年4月首发初期仅对少数美国本土机构受限开放,但本周已宣布将授权拓展至全球15个国家的150家机构。该模型具备自主发现并利用软件漏洞的能力,其强大的攻防一体特性引发了全球各国政府、金融机构以及IT企业的普遍担忧。这种能力意味着它可以自动扫描网络系统、识别安全漏洞,并模拟攻击路径,从而帮助防御方提前修补弱点,但同时也可能被恶意利用。
面对舆论对于技术滥用风险的质疑,接近Anthropic的内部人士辩解称,掌握先进的攻击技术是打造优秀防御体系的最优路径。他们认为对手大概率也在自研同类AI武器,倘若己方不主动开发,敌方也会想方设法落地同类技术,因此必须抢占地缘战略先机。这种“以攻促防”的逻辑在网络安全领域并非新鲜事,但将如此强大的AI能力直接用于军事级网络作战,仍然引发了技术伦理上的激烈讨论。
值得注意的是,这项高度敏感的军事合作落地之际,Anthropic正因为AI技术在作战领域的使用问题与美国国防部陷入激烈的司法诉讼。此前,Anthropic因拒绝五角大楼将Claude系列模型用于大规模监控及研发致命自主无人机,被军方列入了供应链风险清单,若诉讼败诉,其可能被迫终止与美军机构的所有商业合约。这表明Anthropic在技术商业化与伦理底线之间面临着艰难的平衡。
尽管深陷法律纠纷且面临特朗普政府推动全联邦安全机构部署该AI的合规压力,Anthropic依然没有放慢商业化步伐。这一系列地缘安全布局恰逢公司筹备首次公开募股(IPO)的关键阶段,其目标估值有望突破1万亿美元,充分凸显了人工智能在国家安全层面的商业与战略价值正在持续攀升。从技术角度看,Claude Mythos的发布和授权扩展标志着AI在网络攻防领域进入了一个新阶段,其自主漏洞利用能力可能重新定义网络安全攻防的范式。
来源:Heooo AI工具导航