OpenAI首席科学家回应推理不透明争议

OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）近日在X平台发推，公开回应了围绕AI模型Astra“不可监控”与“推理不透明”的争议。此前有深度报道指出，OpenAI正在测试“深度循环”技术，可能使研究人员更难追踪模型的思维链推理过程，引发外界对于AI透明度下降的广泛担忧。

帕乔基在声明中强调，目前最先进的模型（包括Astra）的计算图深度与GPT-4相比差距不到两倍，并未出现外界所担心的跳跃式复杂度增长。他呼吁避免因混乱的媒体报道而引发“AI冲向不可监控状态”的竞赛，并指出OpenAI自推理模型问世以来，始终致力于维护和利用思维链监控技术。

此事件起源于一则关于OpenAI内部技术方向的报道。报道透露，OpenAI正在测试“深度循环”技术，该技术让模型重复调用同一组网络层，持续更新内部表征，而非像传统Transformer模型那样按线性步骤处理信息。尽管ChatGPT、Claude和Gemini等主流模型大多基于Transformer架构，并能在部分场景下用自然语言输出推理过程，但这类输出并不一定准确反映模型内部计算。而“深度循环”的引入，可能导致模型的实际推理更多停留在难以直接阅读的内部状态中，使得研究人员更难借助思维链追踪模型的决策路径。

计算图深度是衡量神经网络架构复杂度的核心指标，指模型从输入到输出需要依次执行的计算层级数量。数值越大，代表模型内部层级越多、结构越复杂。帕乔基指出，虽然目前思维链监控技术仍较脆弱，且正朝不利方向发展，但OpenAI已将其视为当前研究项目的核心目标之一，并将采取措施加强相关能力。

此次回应旨在澄清外界对AI模型可控性的担忧，同时也反映出前沿AI研究在追求性能的同时，对透明性和可解释性的持续关注。OpenAI的表态为推理过程的可监控性提供了一定保证，但围绕深度循环技术长期可能带来的影响，业界仍将继续保持高度关注。