五角大楼成立工作组加速AI网络安全部署
「美国五角大楼网络作战部门组建专门工作组,旨在加速在敏感网络中部署AI工具,以应对私营AI模型带来的安全漏洞风险。」
美国五角大楼的网络作战部门近期宣布成立一个专门工作组,以加速在国家级敏感网络中部署先进的人工智能工具。此举源于对私营部门开发的人工智能模型所带来的安全隐患的担忧——这些模型能够比顶级黑客更快地发现数字系统中的安全漏洞。
据内部消息,国家安全局和网络司令部的领导人约书亚·拉德将军通过内部邮件通知员工,工作组将专注于研究如何在五角大楼的各项任务中安全地应用先进的人工智能模型。这项跨部门合作将整合网络司令部和国家安全局的资源,重点评估硅谷科技巨头开发的人工智能模型,确保其在涉及国家机密的高端系统中能够安全、可靠地运行。
值得注意的是,人工智能公司Anthropic近期推出的Claude Mythos模型在发现和利用网络漏洞方面表现格外突出,其能力甚至被认为可能威胁到国家安全和公共安全。为此,白宫已开始起草一项行政命令,要求领先的人工智能实验室在公开发布模型前,必须将其提交给联邦政府进行安全测试,以防止这些技术被不法分子滥用。
工作组的成立标志着网络司令部和国家安全局希望更迅速地将AI工具应用于网络安全领域。知情人士表示,这一举措表明两个机构都已认识到迅速部署人工智能的重要性。拉德在邮件中明确,工作组将由网络司令部的指挥官领导,并充分吸收国家安全局在网络安全领域的专业知识。
此外,五角大楼已与包括OpenAI和Google在内的科技公司签署协议,开始在其机密网络中测试和部署AI模型。不过,Anthropic与五角大楼之间的法律纠纷可能会影响该公司模型在联邦范围内的更广泛部署。前副司令查尔斯·摩尔对此表示支持,他认为人工智能工具已成为网络防御和攻击中的重要手段,加速部署是应对当前威胁环境的必要之举。
来源:Heooo AI工具导航