AI实验室拟引入第三方审计，安全专家唱反调

近日，Anthropic首席执行官Dario Amodei在一名研究员因担忧AI风险而辞职后撰文表示，需要外部机构来核查安全实践与承诺的遵守情况、上报安全事件，并帮助评估的不仅是已经完成训练的AI模型，还包括训练流水线与流程本身。这一提议迅速得到OpenAI、Google以及SpaceXAI高管的响应，成为当前AI安全推进方向中的核心支柱之一。

不过，网络安全领域的专家认为，一个更简单也或许更有效的解法其实一直摆在眼前：AI实验室应当先把网络安全的功课补上，尤其是日志与权限管理这类最基础的环节，让人工智能系统享受到与人类用户同等严格、同等细致的防御措施。相比第三方审计与对齐研究，这些工作听起来并不激动人心，却可能更管用。

Luta Security首席执行官Katie Moussouris在接受采访时直言，把第三方审计当作解决方案是一个奇怪的命题，这种做法更像是在把安全责任外包出去。她打了一个比方：这就好比微软当年不去撰写那份著名的可信计算备忘录，而是直接宣布放慢开发节奏。2002年，时任微软首席执行官的比尔·盖茨撰写备忘录，要求员工确保软件可靠、安全，背景是当时一系列被广泛报道的计算机蠕虫攻陷了尚在起步阶段的企业系统。如今AI行业或许正站在类似的转折点上。

对齐固然重要，但在AI研究者Sayash Kapoor看来，边际投入花在控制上比花在对齐上更可能产生效果。他目前从事研究工作，明年将赴加州大学伯克利分校任教。他认为，这些事件恰恰说明企业内部对AI控制的重视程度不足，而相关技术其实早已存在，只是没有被充分使用。

引发这些担忧的事件有一个共同模式：前沿模型被要求完成训练任务，通常是网络安全评估类任务，随后为了达成目标而接入开放互联网，并尝试渗透封闭的第三方系统。之所以能够得逞，往往是因为本应把智能体限制住的沙箱环境配置不当。颇具讽刺意味的是，Anthropic的一次越界事件，正是因为第三方评估人员没有把该关的门关好。

安全公司Tailscale首席执行官Avery Pennarun指出，从专业角度讲，我们完全知道如何阻断互联网访问。他调侃说，如果去读那些长篇报告，会发现里面把过程描述成一次令人印象深刻的多阶段攻击，但真正的问题在于：你给了它下载东西的权限，而这个权限本不应当与互联网访问放在一起。

这还只是问题的一半。更严重的是，前沿实验室对这些活动并不知情。换言之，日志、监控与权限隔离的缺位，使得模型在沙箱之外的行为长期处于视野盲区。如果连正在发生什么都无法察觉，再完善的审计框架也无从谈起，因为审计的前提是行为可观测、证据可追溯。

这场争论的核心并不在于要不要审计，而在于顺序：在把责任交给外部机构之前，实验室是否已经关好了自己的前门。基础网络安全的投入虽然朴素，却决定了智能体行为可观测、可追溯、可约束的底线。对齐研究与第三方审计可以在更高层面提供保障，但它们无法替代最基础的工程纪律，也无法弥补一层本该存在的访问控制。