扎克伯格称AI安全应引入独立外部评估

Meta 首席执行官扎克伯格在 X 平台发文，就当前业界关于是否放缓 AI 开发节奏的争论表明了自己的立场。他认为，保障人工智能安全的正道是引入独立的外部评估机构与顾问，而不是让整个行业停下脚步。

扎克伯格给出的理由是市场机制本身。他指出，现实情况是用户绝不会愿意去用那些与自身价值观未对齐、且无法按指令执行任务的智能体。因此，各大 AI 实验室天然具备极强的内在动力，去提升自身模型的对齐水平。所谓对齐，是指人工智能模型的输出结果与人类的意图、价值观、道德规范以及真实世界事实的符合程度。

在他看来，信任与对齐正迅速成为拉开智能体和模型差距的核心竞争力，任何忽视对齐技术的实验室都必将遭到淘汰。除了用户选择，法律责任同样构成约束：如果模型造成危害，实验室将承担重大法律责任，因此他们同样有极强的动力去防患于未然。

扎克伯格以自身的实践举例说明。据其介绍，Meta 此前将 Muse 的发布推迟了数月，正是为了全力确保其功能安全与系统防护。他强调，Meta 并未在自己付诸行动之前先去大声呼吁全行业效仿，而只是把安全与对齐融入日常研发工作之中。

关于外部评估，扎克伯格认为引入独立的外部评估机构与顾问属于行业最佳实践。如今 MSL（Meta 超级智能实验室）已在多个业务领域践行这一做法，并且成效显著，其他实验室同样能够做到这一点。总体而言，建立一个规模更大、更多元化的评估生态系统，对全行业将是有益的。

最后，他给出了关于算力分配的判断：相比于盲目竞逐递归自我改进，将绝大部分算力用于服务大众，是确保安全开发该技术的最佳途径之一。Meta 已作出这一承诺，其他实验室也完全能够跟进。