OpenAI秘密预训练十万亿参数基座模型
「消息源爆料称,OpenAI已完成下一代模型Bel的预训练。该模型为Doug的直接继任者,总参数量超过10T,旨在成为GPT-6后的基座模型,并向通用人工智能(AGI)阈值发起冲击。爆料还提及OpenAI与Anthropic在算力与模型竞争上的态势变化。」
据消息源@synthwavedd在X平台爆料,OpenAI已悄然完成下一代模型Bel的预训练工作。Bel被定义为内部代号Doug的直接继任者,其总参数量超过10T(10万亿),规模远超现有主流大语言模型。OpenAI计划将Bel打造为GPT-6之后的基座模型,甚至期望其能够触及通用人工智能(AGI)的阈值。
AGI是一个被广泛讨论但尚未实现的概念,指的是像人一样具备学习、理解并执行任何智力任务的假设系统。与仅能处理特定任务的狭义AI不同,AGI需要具备跨领域泛化、深度推理以及适应未知环境的自我学习能力。Bel的庞大参数量,正是为了支撑这样复杂且通用的能力而设计。
从技术路径看,超过10T参数的预训练模型意味着OpenAI仍在坚持规模优先的演进策略。预训练阶段是构建大模型的基石,完成后还需要经历对齐、安全评估、微调等环节才能正式面向应用。Bel作为下一代基座候选,其能力上限将直接影响GPT-6后续版本的技术天花板。
爆料同时提到了前沿AI公司之间的竞争态势。据称,OpenAI认为面对即将公开的Astra,Anthropic受算力所限并没有拿得出手的应对方案,后者已做好余下时间局势偏向对手的心理准备,但Anthropic内部相信明年初能重新回到领先地位。这一信息反映出算力资源在顶级模型竞赛中的关键作用。
截至目前,OpenAI官方尚未对Bel模型的预训练发布任何确认消息。上述信息均来自非官方渠道,市场应保持谨慎态度。但若爆料属实,Bel将标志着AI模型规模与智能水平迎来又一次重大跃迁,为未来AGI基座的建设奠定新的起点。
来源:Heooo AI工具导航