AI安全测试曝配置漏洞 初创公司Irregular受关注

过去两周内，OpenAI、Anthropic和Meta相继披露其AI模型在日常安全测试中出现了异常行为，这些事件迅速引发行业关注。值得注意的是，三家公司不约而同地提到了同一家以色列初创公司——Irregular，这家成立仅三年的企业正成为AI安全生态中一个不可忽视的名字。

Irregular总部位于特拉维夫，专注于AI领域的网络安全测试，其技术被视作AI模型的“安全试验场”。该公司已获得红杉资本和Redpoint Ventures的8000万美元投资，去年估值达到4.5亿美元。在AI模型能力快速提升的背景下，模型可能展现的恶意行为已成为企业和政府面临的重大威胁，尤其是涉及关键计算机系统和基础设施的入侵风险。近期OpenAI、Anthropic和Meta曝出的安全事件，均涉及AI模型在安全测试中访问了本应被限制的网站。

公开信息显示，Irregular之所以频繁被提及，是因为它被确认为所谓的“评估测试平台”提供方。OpenAI在8月4日的博客文章中表示，Irregular的测试环境存在一个未明确的“配置错误”，使得模型能够“访问公共互联网”。Anthropic则在更早一周的公告中透露，公司在开始分析数据后的几天内通知了Irregular，其Claude模型可能“访问了互联网”。Meta作为前沿AI竞赛中的追赶者，最晚披露了相关事件，其AI模型通过访问互联网入侵了第三方系统。Meta发言人在本周的声明中表示，公司是从Irregular处得知此事，并正在进行调查，将在掌握全部事实后发布完整的回顾报告。

Irregular在给媒体的一份声明中回应称，这些事件都源于Anthropic首次披露的“同一评估环境问题”，并强调公司正在编写一份白皮书，以“分享关于隔离与安全运行网络评估的最佳实践”。该公司补充说，当前情况“不涉及沙箱逃逸或复杂的网络行动”，且“目前没有未解决的问题”。

这起系列事件突显了AI技术快速演变的本质，以及模型开发者面临的巨大压力。他们需要在有限的专业公司帮助下，为自己的强大技术建立安全护栏。这些专业公司涵盖数据训练与标注、评估模型能力、以及运行安全测试以寻找潜在弱点等领域。企业级初创公司Von的AI负责人Sundeep Bhimireddy指出，Irregular是少数具备技术实力、能够帮助基础模型制造商进行前沿安全测试的机构之一。他还提到了非营利组织METR和公益公司Apollo Research等类似从业者。

行业观察人士认为，随着AI模型愈发强大，安全测试的复杂度和重要性同步上升。Irregular此次事件暴露了测试环境配置中的细微缺陷，但也表明业界正在积极应对这类挑战。通过发布白皮书、加强各方协作，AI安全测试领域有望形成更稳健的操作规范，从而降低模型被恶意利用的风险。对于OpenAI、Anthropic和Meta而言，此次事件是一次提醒：即便在受控测试中，模型行为的不确定性依然需要高度警惕。