OpenAI新模型Astra接受自愿安全审查

OpenAI首席执行官萨姆·奥尔特曼近日证实，公司即将推出的新一代AI模型Astra已经参与了美国政府的自愿安全审查流程，并将其描述为“一个富有成效的过程”。这一表态反映出前沿AI模型在发布前后正面临越来越多的安全审视。

据相关报道，Astra将成为OpenAI首个被划入“关键”网络安全能力等级的模型。按照OpenAI的内部评估框架，这类模型在开发过程中以及正式发布前需要采取更严格的安全措施，以确保其能力不会被滥用。自愿审查机制允许政府官员在模型发布前获得最长30天的访问权限，以便对潜在风险进行评估。

奥尔特曼在采访中确认，特朗普政府已经对Astra进行了审查，并强调这一过程属于自愿性质。“但我们当然参与了。”他说。他同时指出，随着AI模型能力达到相当高的水平，与美国、英国以及世界其他地区的AI安全研究机构进行真正密切的合作将变得越来越重要。他将Astra称为“一次重大进步”，暗示该模型在多项能力上将有显著提升。

在参加二十国集团创新部长会议期间，奥尔特曼与美国商务部长霍华德·卢特尼克进行了对话。他阐述了OpenAI的立场，即“人应该处于经济、社会和全球决策的核心，未来应该由人来掌控，而不是由AI来掌控”。他强调公司属于“务实的中间派”，既反对末日论式的过度担忧，也反对完全忽视风险的盲目乐观。

值得注意的是，美国白宫并不打算公开发布这套自愿审查框架。这意味着，对于公众以及未参与这一流程的企业而言，美国政府究竟如何审查先进AI模型，仍存在较大程度的不透明性。尽管如此，主要AI实验室仍然积极参与这一流程，且能力更强的新模型仍在不断推出。

奥尔特曼也回顾了2023年在美国国会作证时的情景。他当时预计国会会为先进AI建立一个“基本框架”，但这一目标至今尚未实现。他认为，立法进展缓慢很可能与AI技术发展速度过快有关：“人们很难弄清楚应该监管什么，同时又不能因此拖慢创新。”他补充说，现在要让国会采取重大行动确实非常困难。

随着各国继续应对AI安全问题，OpenAI预计仍将持续推出新的模型。奥尔特曼表示：“相信我们，很快就会有能力强得多、强得多、强得多的模型推出。我们需要思考这些模型可能对社会产生的各种影响，然后确保我们能够正确应对这些影响。”这番话既传递了技术迭代的紧迫感，也呼应了行业对安全治理的持续关注。