开源AI安全联盟成立一周即推新提案

在人工智能技术飞速发展的今天，安全问题日益成为行业关注的焦点。近日，一个由英伟达（Nvidia）牵头、成立仅一周的行业组织——开放安全AI联盟（Open Secure AI Alliance，简称OSAA）——已经展现出惊人的行动力，不仅成员规模迅速扩大，还推出了初步的技术提案，为AI安全生态的建设迈出了实质性的一步。

据TechCrunch报道，OSAA在成立短短一周内，成员数量已超过120家企业，并组建了一个名为“共享AI发现交流”（Shared AI Findings Exchange，简称SAFE）的工作组。该工作组已在网络安全领域的顶级会议——拉斯维加斯黑帽大会（Black Hat）期间，提出了多项供公开评议的提案。这些提案聚焦于AI安全事件的处理流程，包括如何保密地报告AI网络安全事件、通知受影响方，以及进行无指责的事后分析，以便行业从中吸取教训。

尽管这些提案目前看来并不具有颠覆性，但它们标志着行业在AI安全标准化方面迈出了重要一步。Linux基金会作为联盟成员，正在负责管理这些提案的公开评议流程。与此同时，OSAA的成员企业也在积极贡献和整理各自的开源技术，这些技术有望在未来整合成一套企业级解决方案，用于保护AI代理免受攻击，或抵御恶意AI的入侵——例如之前OpenAI模型渗透Hugging Face的事件。

英伟达表示，其提供了一系列开放模型以及开源LLM漏洞扫描工具Garak；Okta正在开发代理身份识别技术；Red Hat则专注于代理治理；亚马逊贡献了开源代理构建工具Strands Agents和授权语言Cedar。这些贡献展示了联盟成员在AI安全不同层面的技术储备。

目前，OSAA的成员名单中包括了Adobe、BlackRock、Cisco、Intel、Microsoft和Visa等众多知名企业。然而，一些重量级玩家的缺席也引人注目，例如Anthropic、OpenAI和谷歌均未加入。值得注意的是，OpenAI和谷歌都曾签署了促成该联盟成立的公开信。这封由英伟达倡导、超过200家科技公司签署的公开信，呼吁白宫支持开源AI发展而非加以限制。

Anthropic对公开信和联盟的冷淡态度并不令人意外，但OpenAI和谷歌的缺席则有些出人意料，因为这两家公司都已发布了自己的开放权重模型，且谷歌一向被视为开源的支持者。随着联盟势头的增强，它们是否会加入仍有待观察。

该联盟的行动速度体现了AI行业特有的快节奏。从传出美国政府考虑限制中国开放权重模型的消息，到引发行业震动并催生公开信，再到联盟成立并推出提案，整个过程仅用了数周时间。无论美国最终如何处理中国开放权重模型的问题，这个重量级联盟的快速行动对美国开源AI生态而言似乎是一个积极信号。美国开放权重AI实验室Arcee的联合创始人兼首席技术官表示，开放性可能是实现AI安全与保障的最重要途径之一。

随着OSAA的持续运作，其提案的完善和开源技术的整合将如何影响AI安全格局，值得业界密切关注。