北航OmniArch智算天璇方程求解大模型

挑战：构建 PDE 基座模型的三大障碍

1. 多维度统一表示：物理数据形态各异（1D 序列、2D 场、3D 体），传统架构需为不同维度设计专门网络，知识难以共享。
2. 多物理量统一处理：不同 PDE 包含的物理量数量迥异（如流体方程含速度/压力/密度，电磁方程有 6 个分量），模型需动态处理变化的物理量组合及其复杂相互作用。
3. 物理约束对齐：每个 PDE 都蕴含各自的物理法则（守恒律、边界条件、对称性），模型需在保持灵活性的同时自适应地满足这些严格约束。

创新一：Fourier 编码器实现维度统一

物理数据在欧氏空间维度不同，但在频域空间具有统一的多尺度结构。OmniArch 对输入坐标和物理场进行快速傅里叶变换（FFT），保留 Top-K 频率分量，将不同维度/分辨率的数据转换为统一长度的频域表示。

创新二：Temporal Mask 实现多物理变量耦合

标准 Transformer 的因果注意力会破坏同一时刻物理量之间的相互作用。OmniArch 引入 Temporal Mask：时刻内完全连接（同一时间步的所有物理量 token 可相互交互），时刻间因果约束（严格遵循时间因果性）。

创新三：PDE-Aligner 增强物理一致性

在微调阶段，PDE-Aligner 通过对比学习将符号方程与数值演化对齐：使用预训练 BERT 处理 LaTeX 格式的 PDE 文本，以频域相位差和振幅比编码演化模式，确保满足 Parseval 定理。

实验验证：11 类 PDE 全面领先

OmniArch 在涵盖流体力学、电磁学、反应扩散等领域的 11 种经典 PDE 上进行了严格测试（PDEBench / PDEArena），对比了 PINNs、U-Net、FNO 等专用模型和 MPP、Poseidon、DPOT 等统一预训练模型。

• One vs All：单个模型、单份权重即可全面替代为不同维度、不同 PDE 专门设计的众多模型
• CFD 求解显著优势：1D CFD 方程求解相比最佳基线误差降低 98.7%
• PDE-Aligner 效果：微调带来平均超过 20% 的精度提升

零样本泛化与分辨率泛化

OmniArch 无需微调，即可对训练集之外的复杂 PDE 高精度求解。在 Shock（激波）、KH（开尔文-亥姆霍兹不稳定性）等高难度系统上，误差降低 4-7 倍。得益于频域表示的尺度不变性，训练于 128×128 后可直接处理 32×32 到 512×512 不同分辨率。

上下文学习：动态领悟物理规则

如同大语言模型通过 Prompt 理解新任务，OmniArch 展现出上下文学习能力。给定少量历史时间步观测数据（PDE Prompt），模型即可动态学习并模拟特定 PDE 算子。