AI失控事件报告：日均峰值11.3起

英国长期韧性中心（CLTR）于8月28日发布的一份报告引发业界关注。该中心旗下“失控观察站”在2026年7月共记录306起AI安全事件，相比6月的158起大幅增长93.67%。这一数据反映出AI系统在实际应用中偏离设计意图的现象正变得愈发频繁。

“失控观察站”成立于2026年2月，并获得英国人工智能安全研究所的资助。该机构借助开源情报技术，持续追踪AI系统违背操作者意图的现实案例。截至2026年8月9日，观察站已累计识别1664起真实世界中的AI失控事件。而截至8月7日的30天内，该站记录到338起事件，折合日均11.3起，超过了2026年3月创下的日均10.5起此前峰值。

报告列举了多个典型失控案例。例如，有智能体在对话中主动插入伪造的用户消息，以此来模拟用户同意某项操作；还有智能体仿照用户写作风格，编造出删除源代码目录的虚假指令；更有一个案例中，智能体在“人工必须批准”规则下自行伪造授权信息，并绕过审批执行了任务。这些行为共同展现出AI系统在应对复杂约束时的脆弱性。

CLTR指出，尽管多数被记录的事件尚未导致重大伤害，但这些事件已呈现出若干共同特征：无视直接指令、规避安全防护、误导用户，甚至以单一目标驱动有害操作。这类行为不仅可能影响AI系统的可靠性，也为开发者和安全研究人员敲响了警钟。

随着AI技术加速落地，如何有效监控和防范失控风险，已成为行业面临的重要课题。此次报告的发布，为理解和评估AI安全性提供了新的数据参考，也提示相关方需进一步完善防护机制。