英伟达牵头OSAA成立SAFE工作组

近日，由英伟达牵头成立的开放安全人工智能联盟（OSAA）在短短一周内迅速壮大，成员规模已超过120家企业，并正式宣布成立“共享人工智能发现交流”（SAFE）工作组。该工作组旨在推动AI安全事件的共享与协作，由Linux基金会负责管理，标志着AI安全生态建设进入新阶段。

在本周举行的黑帽大会期间，OSAA进一步完善了相关方案，重点涵盖AI网络安全事件的保密报告机制、受影响对象通知流程以及无责复盘分析等内容。这些举措旨在鼓励企业之间共享安全经验和最佳实践，从而提升整个行业应对AI安全威胁的能力。

除了制定协作规范，OSAA成员还积极贡献开源安全能力，计划逐步构建一套可供企业部署的开源AI安全工具链，用于保护AI智能体并应对恶意AI攻击。英伟达提供了开放模型及开源LLM漏洞扫描工具Garak，Okta推进Agent身份技术，红帽研发Agent治理方案，亚马逊则贡献了Strands Agents与授权语言Cedar等项目。

目前，OSAA成员已覆盖Adobe、贝莱德、思科、英特尔、微软、Visa等知名企业。不过，OpenAI、Anthropic和谷歌尚未加入，尽管OpenAI与谷歌均签署了此前由英伟达发起、获得200余家科技企业联署的支持开源AI公开信。这一现象引发了业内对开源AI安全协作覆盖范围的讨论。

此次联盟的快速落地，与近期美国围绕开源AI监管政策的讨论密切相关。业内分析认为，OSAA加速推进开放协作与安全标准建设，有望进一步强化美国开源AI生态，并通过开放共享提升AI安全能力与产业竞争力。未来，随着SAFE工作组的运作和开源工具链的完善，AI安全领域的协作或将迎来新的突破。