OmniSpectra: A Unified Foundation Model for Universal Spectra Representation Learning 精读

深度精读 OmniSpectra——弗吉尼亚大学与 SLAC 国家加速器实验室提出的通用光谱基础模型。核心洞察是把序列模型的位置编码从「像素序号」换成「物理 log 波长连续坐标」:连续 1D RoPE 让宇宙学红移的乘性伸缩变成 log 空间的均匀平移并在相对注意力中自动抵消,LSF 分辨率门控 Fourier 解码器用实测仪器量做抗混叠。仅 12.2M 参数在 8 个巡天 640 万条原生光谱上预训练,分类、恒星与星系参数、红移全面超过 314-370M 参数基线,是「物理先验替代参数规模」的干净示范。

October 30, 2026 · 9 min