吴恩达反驳AI灭绝论 称更像科幻小说

人工智能领域知名专家吴恩达近日对部分顶尖模型开发商研究人员提出的“AI生存风险”警告提出批评。据彭博社报道，他认为这类关于AI可能导致人类灭绝的担忧更接近于科幻小说情节，而非严谨的科学结论，且这种论调可能不利于确保该技术为社会带来最大益处。

作为Google Brain和教育平台Coursera的联合创始人，吴恩达指出，在AI热潮初期，科技行业曾通过渲染AI潜在灾难性危害来加大宣传力度，其目的显然是为了影响监管走向。他在接受彭博电视采访时表示，过去两周对此感到沮丧，认为这波公关宣传如今再次兴起，可能出于类似目的。

这场争论的直接导火索，是前Anthropic和OpenAI研究员雅各布·考克森的高调辞职。考克森指责其两名前雇主在“拿人类生命下注”，因为它们竞相开发超级人工智能；他还表示，部分AI开发者认为这项技术可能在十年内对人类构成致命威胁。这一表态引发了公众对AI安全问题的广泛关注。

在此背景下，包括Anthropic首席执行官达里奥·阿莫代伊和OpenAI负责人萨姆·奥尔特曼在内的多位AI领袖呼吁业界放缓前沿模型的开发步伐，并采取更多措施保障未来发展。吴恩达早年曾与阿莫代伊和奥尔特曼共事，如今他在安全议题上与这些老同事呈现出明显不同的立场。

尽管吴恩达承认AI确实存在风险，包括网络安全方面的隐患，但他强调有关AI导致人类灭绝的担忧“更像是科幻小说，而非科学”。这一判断将争论的焦点从假想的末日场景拉回到可验证、可度量的现实问题上。

与“减速”主张不同，吴恩达认为行业应继续推进AI发展，同时通过受控测试、工程防护和迭代改进解决可验证的安全问题，并让AI更多应用于能够产生社会价值的场景。他建议行业专注于解决实际的工程问题，以持续改进和保护这项技术。

这一分歧反映出当前AI社区在安全路径上的两种取向：一种主张以前沿模型的暂停或放缓来规避不可逆风险，另一种则强调在发展中积累工程经验、用可测试的手段逐步收敛风险。吴恩达的表态，为后一种以工程实践为中心的路线提供了有力注脚。