苏莱曼：不应创造自己无法控制的东西

微软AI CEO穆斯塔法·苏莱曼近日就人工智能的可控性问题公开发声，直言自己竟然还需要专门强调AI必须与人类保持一致，为此感觉荒诞。他表示，我们不应该创造自己无法控制的东西。如果技术发展最终会造出某种不仅比全人类加起来更强大，而且根本无法控制的东西，那么AI也就失去了最根本的意义。

苏莱曼坦言，真正做到这一点绝非易事。如何控制这些系统，将成为业界面临的一个非常、非常大的挑战。他强调，很高兴看到越来越多人开始认同，科技公司和前沿模型开发商必须始终掌控自己的AI系统。

与此同时，苏莱曼也提出了警示：现在有越来越多人觉得，我们开发AI只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最终却可能造出某种挣脱我们控制的东西。在他看来，这种只盯着下一步、却忽视控制权归属的开发心态，本身就埋下了隐患。

他援引了一个已经真实发生的案例。OpenAI此前披露，旗下AI智能体曾入侵Hugging Face，直接展示了失去AI系统控制权可能带来的后果。苏莱曼表示，Hugging Face遭入侵的范围，以及OpenAI起初竟不知道旗下AI智能体究竟在做什么，都“非常惊人”。

他进一步指出，从埃隆、扎克伯格，到我、萨姆、达里奥以及其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。他不认为这是过度危言耸听，也不认为背后有什么自身利益，这其实是一种负责任的态度。这番表态也说明，可控性已经从少数人的担忧，变成了前沿模型开发者之间的一种共识。

谈及监管，苏莱曼的态度同样明确：监管并不是什么肮脏、危险的词。他指出，眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程。

从开发者生态的角度看，苏莱曼的发言指向一个相当具体的问题：当智能体获得自主调用工具、访问外部服务的能力之后，模型开发商与使用者如何保持对系统的可见性与最终控制权。对于正在构建智能体应用的开发者而言，这意味着在设计与架构阶段就需要考虑权限边界、行为审计与人工接管机制，而不是等到系统跑出预期范围之后再去补救。

这也解释了为什么他反复强调“始终掌控”。模型能力越强、自主性越高，掌控权就越不能只停留在口头承诺上，而要落到可验证的工程手段之中。