陈嘉兴呼吁警惕AI现实安全风险

Y Combinator CEO 陈嘉兴近日在接受 CNBC 采访时表示，外界对人工智能的讨论过度集中于好莱坞式的末日情景，反而忽视了已经摆在眼前的真正风险。他强调，讨论应当建立在科学事实之上，而不是科幻小说之上，并坦言自己看过《终结者2：审判日》，认为那确实是一部很棒的电影。

陈嘉兴发表上述言论之际，OpenAI 和 Anthropic 的多名现任及前研究人员接连罕见地公开示警，使硅谷对 AI 生存风险的担忧迅速升温。在这样的舆论氛围下，他并没有否认这些担忧，而是主张把讨论从抽象恐惧拉回到具体问题。

在他看来，与其争论超级智能 AI 最终会不会毁灭人类，政策制定者更应该把精力放在已经出现的问题上，包括网络安全、基础设施安全，以及弄清自主 AI 智能体究竟如何运行。他抛出了一连串现实拷问：如果系统遭到入侵，而且多个智能体协同行动，试图接管基础设施，我们该怎么办；我们是否知道某个智能体究竟在哪里运行，在哪个数据中心，又该怎么把它关掉。

陈嘉兴举出的现实案例之一，是 OpenAI 入侵 Hugging Face 事件。这一案例说明，风险并不需要等到超级智能出现才会发生，当下已经运行的模型、平台与工具链，就可能因安全边界不清而产生难以追溯的后果。

当被问及内部人士的表态是否让威胁显得更加可信时，他给出了肯定回应，并表示不会说他们是在以错误的方式危言耸听，他们确实在拉响警报，而且很可能是正确的。他真正想强调的是，别再把注意力放在“AI 是邪恶的、必须停止”这种模糊说法上。

从技术视角看，陈嘉兴提出的问题指向了自主智能体时代的几个基础命题：身份与权限如何界定，行为日志与可观测性如何建立，跨系统协同时的责任边界如何划分，以及紧急情况下如何可靠地中止运行。这些问题看似朴素，却直接决定智能体能否被安全地部署进生产环境。对于正在把智能体接入基础设施的开发者与企业而言，把工程资源投入到权限控制、行为审计与故障隔离上，或许比争论遥远的末日剧本更为紧迫。