吴恩达回应AI末日论：应解决现实工程问题

针对近期再度升温的AI安全争论，曾参与创办Google Brain和Coursera的吴恩达在彭博电视采访中给出回应。他表示，顶尖模型开发商有关AI可能导致人类生存风险的警告，更像科幻小说，而不是科学，这类叙事有可能分散行业对真正安全问题的注意力。

吴恩达提到，科技行业早期曾放大AI潜在灾难性风险，用意在于获取关注并影响监管方向。近两周相关讨论再次升温，背后也可能存在类似动机。他并不否认AI存在现实风险，尤其是网络安全等领域的挑战已经相当紧迫，但他不认同把人类灭绝风险作为当前AI发展的核心判断依据。

这一表态出现在新一轮AI安全争论的背景下。前Anthropic和OpenAI研究员Jacob Coxon公开离职，并警告前沿实验室正在竞相开发超级AI，由此引发广泛讨论。随后，Anthropic首席执行官Dario Amodei与OpenAI首席执行官Sam Altman均提出，应适当放缓前沿模型的发展节奏，并进一步加强安全措施。吴恩达早年曾与两人共事，此番表态也显得格外引人注目。

与减速主张不同，吴恩达认为行业应当继续推进AI发展，同时通过受控测试、工程防护和迭代改进来解决可验证的安全问题，并让AI更多地应用于能够产生社会价值的场景。在他看来，把安全讨论落到可度量的工程问题上，比抽象的末日叙事更具实际意义。

当前，AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐以及前沿模型治理等具体议题。这一变化本身也说明，行业关注点正在从假设性的极端情景，转向可以被测试、被验证、被修复的现实风险。对开发者与模型团队而言，如何在保持创新节奏的同时建立可靠的安全护栏，将成为下一阶段的核心命题。