技术进展

天文学基础模型存在系统性偏差审计揭示

Heooo 08月26日12时01分 14 阅读

「一项针对AION-1天文学基础模型的审计发现,其训练数据中的巡天检测通道会覆盖图像像素信息,导致模型输出的红移等参数产生显著偏差。该偏差源于目录的不完整性,当模拟缺失时,断层红移偏移量可达LSST DESC要求的0.71倍,部分区间超出8倍以上。」

基础模型在天文学领域的应用正日益广泛,但一项最新研究对其可靠性提出了重要质疑。研究人员对AION-1——一个拥有39种模态、基于超过2亿个天体对象训练的Transformer模型——进行了系统性的因果干预审计,结果发现该模型存在一个此前未被察觉的严重偏差:巡天检测通道的像素信息会覆盖并主导图像本身的特征,进而污染模型输出的关键天文参数。

这项研究的核心发现极具冲击力。在保持图像令牌逐字节不变、仅编辑巡天分割图的条件下,模型报告的所有物理量——通量、尺寸、椭圆率和红移——都发生了显著变化,其效应量是安慰剂对照组的110至4400倍。这意味着模型并未真正从图像像素中提取信息,而是过度依赖分割掩码所代表的检测通道信号。进一步分析表明,这种偏好源于检测门控机制:决定模型输出的关键在于源是否位于场中心(相关系数r=0.47),而非掩码包围的实际光线分布(r=0.30)。在对322个真实混合天体的测试中,模型完全忽视了管线如何划分光线(R=-0.006),充分说明其决策逻辑与图像内容几乎无关。

更令人担忧的是,这种对检测通道的依赖并非简单的偏好,而是一种系统性偏差。当研究人员为模型提供与图像像素矛盾的目录测光数据时,模型的性能比完全不提供任何元数据还要差九倍。这表明,训练过程中引入的目录产品不完整性,已经作为系统误差被模型继承。据量化,Legacy Survey管线有3.68%的目标其位置没有对应的分割区域。当研究人员以管线实际返回的字段来模拟这种缺失时,断层平均红移的中位数偏移量达到LSST DESC(暗能量科学合作组织)要求的0.71倍,并且在40次模拟中有12次超过该要求。若将观测到的位置误差纳入考虑,最差区间甚至达到8.3倍。

研究还探索了缓解措施。令人鼓舞的是,光谱数据可以有效消除这一偏差;而直接移除检测通道的输入,在可测量的成本几乎为零的情况下也能显著改善模型表现。此外,模型的性能还受其规模影响——误差随模型规模增大而增长,这提示更大的模型可能继承更多训练数据中的系统性问题。

除了检测通道问题,审计还揭示了模型分词器的两项内在限制。其一,图像编解码器在源斑块上仅解析出28个有效状态,而光谱编解码器可达934个状态,巨大的差距表明图像表示的信息瓶颈严重。其二,红移读出受量化限制,这可能导致输出精度无法进一步提升。研究人员还警告说,稀疏字典并非可靠的因果干预工具:在15次测试中,其恢复率在26%到75%之间波动,仅改变随机种子就可使结果移动多达18个百分点,这给基于稀疏字典的因果分析带来了额外的不确定性。

这项研究为天文学基础模型的可信度评估提供了重要方法论。它不仅精确定位了AION-1的偏差来源——检测通道压倒图像像素,而且证明了这种偏差会直接传递到科学结论中,影响巡天数据的断层红移测量。对于正在积极构建和应用天文基础模型的研究社区而言,这是一个及时且必要的警示:在追求更大规模、更多模态的同时,必须警惕训练数据中隐含的系统性缺陷,并开发有效的干预和校正策略,否则模型输出的科学结果可能充满陷阱。

# 天文学基础模型 # 系统偏差 # 因果干预

来源:Heooo AI工具导航