辛顿警告：AI有效监管窗口仅剩约一年

被誉为“AI教父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿再次发出警告：留给先进人工智能建立有效监管护栏的时间窗口，可能只剩大约一年。

据《商业内幕》报道，辛顿在向议员作完简报后表示，AI的进步速度远超许多研究人员此前的预期，可用于监管先进AI的时间窗口因此迅速收窄。当被问及政策制定者还能有多少时间采取行动时，他给出的答案是：大概一年，“但不会比一年多出多少时间”。

更值得关注的是，人们对超级智能何时出现的判断也大幅提前。过去这一时间尺度通常以数十年计算，如今只剩下短短几年。辛顿认为，AI已经发展到可以自行设计出更先进AI的阶段。“如果我们什么都不做，AI就会失控。我们必须放慢速度。”

他还提到了最近的Hugging Face事件，将其形容为“一场小型切尔诺贝利事故”，认为这一事件反映出前沿AI系统正变得愈发难以控制。在他看来，在继续推进先进AI之前，研究人员首先必须弄清楚如何控制好这些系统。“我们不应该开发可能把人类消灭的东西。”

这并非辛顿首次公开示警。上周他接受BBC采访时称，认为未来10年内AI导致人类灭绝的概率约为10%“并非没有道理”。从技术路线看，辛顿的担忧指向一个核心问题：当前前沿模型的训练与部署速度，已经跑在了对齐、可解释性与行为可控性研究的前面。

对于开发者与研究社区而言，这一警告的现实意义在于提醒：能力提升与安全机制的构建需要同步推进。模型能力越强，可预测性、可解释性和外部监督就越重要。辛顿所强调的“放慢速度”，本质上是在呼吁把控制手段的研究置于能力竞赛之前，先回答“如何控制”，再讨论“能走多快”。