奥尔特曼将向联合国安理会作AI议题简报

据路透社报道，OpenAI 发言人当地时间 18 日确认，公司 CEO 萨姆 · 奥尔特曼将于下周在纽约举行的联合国大会期间，就人工智能议题向联合国安全理事会作简报。这一安排意味着 AI 安全与治理议题再次被推到国际协调的台前。

由 15 个成员组成的安理会计划于当地时间 23 日召开人工智能与国际安全会议。会议由 9 月轮值主席国法国召集，并将由法国欧洲和外交部长让-诺埃尔 · 巴罗主持。

根据法国向安理会成员分发的会议概念文件，会议着重强调行动的紧迫性：鉴于这项技术存在被恶意滥用的风险，同时考虑到安理会此前已经在这一领域展开工作，法国希望推动人工智能以安全、负责任的方式发展，使整个国际社会受益。

OpenAI 发言人称，奥尔特曼预计将重点讨论国际协调和共同安全标准的必要性，以及 OpenAI 为确保全球民众都能从 AI 发展中受益而采取的措施。一名外交官透露，Anthropic 也可能派高级别代表出席，但目前尚未最终确认。

值得注意的是，这并非 AI 安全议题首次进入安理会议程。联合国安理会于 2023 年首次就人工智能风险举行会议。而在此次会议前几周，多名 AI 行业领导者已公开呼吁各方协调放缓 AI 发展速度，并警告称，随着技术能力不断提升，AI 可能很快具备自我改进能力，最终脱离人类控制。

奥尔特曼本人早在当前 AI 热潮出现前就曾公开警告技术风险。他在 2015 年发表的《Machine Intelligence》系列文章第一部分中写道：
“超人类机器智能的发展，可能是对人类持续生存构成的最大威胁。”

从 OpenAI 到 Anthropic，头部模型厂商在安全标准与国际协调上的表态，正在成为 AI 技术演进之外另一条同样受关注的主线。