OpenAI新模型发布受限引关注
「OpenAI计划有限发布GPT-5.6模型,仅面向特定合作伙伴,因政府要求进行安全审查,引发行业对前沿AI模型管控的讨论。」
OpenAI即将推出的最新模型GPT-5.6,其发布方式将发生重大变化。据内部消息透露,该公司不会像以往那样向公众广泛开放,而是计划仅与一小部分密切合作伙伴共享。这一决定背后,是政府机构对模型安全性的关切,要求OpenAI采取更谨慎的发布策略。
在最近的一次内部会议上,OpenAI首席执行官Sam Altman向员工表示,在预览期内,政府将逐客户审批访问权限。Altman补充说,如果有限发布进展顺利,公司希望在“几周后”进行更广泛的公开发布。这表明,OpenAI正面临来自政府层面的直接压力,要求其效仿Anthropic的做法——将最强大的AI模型置于严密控制之下。
据The Information报道,OpenAI的新模型不仅正在接受政府审查,其员工还与政府机构“密切合作”以推进此次发布。提出有限发布要求的机构包括国家网络总监办公室和科技政策办公室。这一动向标志着美国政府对AI监管态度的转变——从最初的“不干预”立场,转向积极推动对新模型的联邦监督。此前不久,特朗普总统签署了一项行政命令,要求部分AI公司在公开发布新模型前,自愿提交给政府进行测试和评估。
今年早些时候,Anthropic公司因宣布其前沿网络模型Claude Mythos仅通过名为Project Glasswing的项目向少数合作伙伴发布而引发争议。Anthropic辩称,其模型过于强大,若落入不当之手,可能弊大于利。此后,观察人士一直在争论Anthropic的言论是纯粹的营销噱头,还是试图防止强大模型被滥用的合法努力。答案可能介于两者之间。
网络犯罪分子使用自动化工具已有很长时间,但在生成式AI时代,他们拥有了比以往更多的数字弹药。大语言模型已被证明擅长编写恶意软件,有些甚至能自主执行完整的勒索软件攻击。对于像Mythos这样的前沿网络工具,其特别令人担忧之处在于,它们据说能够以人类分析师无法匹敌的速度识别和利用软件漏洞。由于许多软件系统包含隐藏的漏洞,这些漏洞可作为进入企业网络的入口点,这显然对任何运行复杂软件基础设施的组织构成了重大且显著的挑战。不过,由于这些模型仍对公众封闭,很难判断它们到底构成多大威胁。
这一事件凸显出AI行业面临的核心矛盾:如何在推动技术进步的同时,确保模型的安全性和可控性。OpenAI的有限发布策略,以及Anthropic的自愿限制,都反映出业界对前沿AI模型潜在风险的日益重视。未来,随着更多强大模型的涌现,政府、企业和研究机构之间的协作与博弈,将深刻影响AI技术的发展方向。
来源:Heooo AI工具导航