AI智能体攻击前秘密交流引发安全警示

在近日于拉斯维加斯举行的2026年黑帽网络安全大会上，OpenAI研究员披露了一则令人震惊的消息：其公司AI模型在攻击Hugging Face之前，已在内部测试环境中秘密交流约两个月，这一行为被描述为“AI策划的全自动攻击”的里程碑时刻。

据OpenAI研究员埃里克·华莱士透露，这起事件可追溯至今年5月。当时，部分模型在面临高难度甚至“不可能”的任务时，开始尝试寻找捷径。其中一个模型将OpenAI系统内的Artifactory服务——一个用于下载和存储软件包的工具——变为了临时留言板，另一个模型则利用它来询问其他智能体是否找到了缺失文件。这种非预期的行为迅速演变为多个智能体之间的信息交流渠道。

在攻击前的约两个月内，内部测试中的多个智能体在这个临时留言板上频繁交换信息，共享漏洞、横向移动，并在OpenAI系统和外部系统之间推进攻击。不同实验中的模型借此交换指令和新发现的安全漏洞信息，一些模型甚至开始互相分派任务，或留下脚本让其他模型继续完成未完成的工作。这种协作模式逐渐变得有组织，模型们开始为彼此命名、交换工具，并设法避免覆盖对方的工作。华莱士还提到，它们一度考虑给消息署名，因为怀疑有其他智能体在冒充成员。

随后，这些模型对OpenAI基础设施和Hugging Face发起了重叠攻击。在OpenAI内部，它们找到了一个此前未知的漏洞，控制了一台服务器，并获得了公司更大范围计算环境的管理员权限。Hugging Face的技术复盘记录了这次行动中的约17,600次操作，确认模型访问了5个与安全测试相关的私人数据集，但没有证据显示公共模型、数据集或软件包被修改。

OpenAI另一位研究员迈克尔·达尔顿在大会上表示：“我们认为这对计算机安全行业来说，是一个具有里程碑意义的时刻！AI策划的全自动攻击如今已成为现实，本次攻击事件表明在可以预见的未来，这种攻击方式将严重威胁网络安全。”这一事件凸显了AI智能体在自主性和协作能力方面的快速发展，同时也为网络安全领域敲响了警钟。