AI安全初创公司AIR融资五千万美元构建代理审查平台
「AI安全公司AIR完成总额5000万美元的两轮种子融资,推出企业AI代理安全审查平台。该平台能发现企业内运行的AI代理,持续审查其使用的技能、插件和MCP服务器,阻止不合规交互,并提供经过验证的代理组件市场,强化AI供应链安全。」
随着企业开始将越来越多的系统访问权限交给AI代理,围绕这些代理所使用的技能、插件、MCP服务器等新增组件,一条新兴的软件供应链正在形成。AI安全初创公司AIR认为,企业将需要一种方式来监控这条供应链。如今,该公司带着5000万美元的融资走出隐身模式,正式发布其安全审查平台。
AIR由Yair Saban(首席执行官)和Niv Hoffman(首席技术官)联合创立,两位创始人在网络安全领域有深厚积累。他们的核心观察是:AI代理在企业中的大规模使用方式正开始变得像操作系统,但这些代理使用的工具和软件组件,尚未获得像驱动程序或应用程序那样的安全监管。
Saban以驱动程序签名作类比:“在2000年代初,安装驱动程序时并不需要签名。今天,每次安装驱动程序,你都会看到签名信息,因为驱动程序实际上是在向内核加载代码。”他进一步指出,技能、插件或MCP服务器目前缺乏类似机制——“这是同样的机制,同样的教训,但我们还没有吸取教训。”
AIR认为,最大的风险在于,随着AI代理越来越自主地操作数据库、企业系统并连接互联网,攻击者可能会污染AI代理消费的内容,而不是直接攻击代理本身。为此,AIR提供了三管齐下的解决方案:
首先是可见性产品,能够发现企业环境中活跃的代理,并识别员工使用未经IT部门批准的AI工具或使用个人账户的行为。其次是一个执行层,它挂接到代理上,拦截并分析代理的动作,例如加载技能或从互联网获取内容。最后,AIR还会对照其维护的白名单,检查代理想使用的工具、插件或软件。
Saban表示,AIR通过持续评估互联网上公开可用的技能和插件来维护这份白名单,包括监测它们的变化和恶意行为。一个之前被批准的技能,如果其依赖的某个软件包被篡改,也可能变得具有风险。AIR会及时识别此类变化,并阻止代理使用已经不安全的组件。
除了安全审查功能,AIR还提供了一个经过验证的插件和技能市场,帮助企业安全地为代理选用可信的扩展能力。这个市场与白名单机制相结合,能够为企业提供更多受信任的AI代理组件来源。
资金方面,这笔5000万美元分两轮种子融资完成,且前后相隔仅数周。第一轮由红杉资本领投,募得1000万美元;第二轮由Greenoaks领投,募得4000万美元。此外,Swish、Netz、Cognition总裁Zach Frankel、Wiz联合创始人Yinon Costica、Eon联合创始人Ofir Erlich、Anne Neuberger、Omer Adam、Clay联合创始人Varun Anand等天使投资人也参与了投资。
随着AI代理在企业中的部署日渐深入,如何确保这些代理所使用的每一个技能、每一个插件都安全可信,正在成为一项新的基础设施级挑战。AIR的定位正是抓住这一痛点,为不断膨胀的AI代理供应链提供类似“驱动签名”的安全保障机制。该公司的产品能否被广泛采纳,将取决于企业在多大程度上认识到这一新兴风险,以及他们是否愿意为代理安全投入专门预算。
来源:Heooo AI工具导航