MARL求解符号回归

许多复杂的自然系统和现象可以用简洁的数学表达式来描述。提取数学表达式以揭示数据生成和观测背后的物理规律和机制是一个长期存在的研究课题。符号回归是一种相关技术，旨在识别与复杂过程的观测输出相匹配的数学表达式。MASR（Multi Agents Symbolic Regression，多智能体符号回归）引入了一种利用多智能体协同识别数学表达式的符号回归框架。具体来说，该算法采用了结构感知递归神经网络和稀疏回归方法组成的多智能体系统来检测潜在的数学表达式。该算法在多个流行基准问题上取得了最先进的性能。

扩散方程描述了物质或信息在空间中的扩散过程。它通常用于描述液体、气体、热量、化学物质或其他物质在空间中随时间变化的分布情况。扩散方程的一般形式如下：

$$\frac{\partial u}{\partial t} = D \nabla^2 u$$

其中，$u$ 是物质或信息的密度或浓度，$t$ 是时间，$D$是扩散系数，$\nabla^2$​ 是拉普拉斯算子，表示空间中的二阶导数。这个方程表明了物质或信息在空间中的扩散速率正比于其梯度的二阶导数。

MASR中，每个智能体将会产生一项或多项表达式，随后通过稀疏回归算法确定各个表达式的系数，最后将所有表达式组合即得到还原的最终表达式。其中每个智能体通过风险寻求（risk-seeking）策略梯度方法训练，表达式如下所述：

$$\begin{align} L(\theta) = \frac{1}{|T|} \sum_{\tau \in T} (R(\tau) - R_e) \nabla_{\theta} \log p(\tau|\theta) \mathbf{1}_{R(\tau)>R_e} \end{align}$$

其中，$\theta$为智能体的参数，$\epsilon$ 是一个关键的超参数，用来调节寻求风险行为的程度。此外，$R(\tau)$是表达式为$\tau$的奖励函数，奖励函数通过计算表达式的输出值和实际值误差确定，$R_e$ 表示 $T$个样本中奖励分布的经验 $1 - \epsilon$ 分位数。该分位数有助于引导关注异常高的性能结果，从而使策略不再仅仅关注平均成就。

该页面展示了MASR算法从数据集中挖掘扩散方程的过程和结果。

图1中，上部图片分别显示了原始的二维扩散方程的流场数据和基于算法挖掘得到的表达式通过Fipy包（一种偏微分方程计算的Python包）生成的对应流场数据的可视化；下部图片展示了算法的框架说明。其主要通过多个智能体产生潜在的符号表达式的多个函数项，并通过稀疏回归确定函数项的系数和过滤无效函数项。每个智能体基于结构感知的循环神经网络来采样函数项。

图2展示了算法从该数据集中学习得到的偏微分方程的表达式，MASR能够同时确定表达式的各项系数和函数项形式。

参考文献

Petersen, Brenden K., et al. "Deep symbolic regression: Recovering mathematical expressions from data via risk-seeking policy gradients." arXiv preprint arXiv:1912.04871 (2019).

Kamienny, Pierre-Alexandre, et al. "End-to-end symbolic regression with transformers." Advances in Neural Information Processing Systems 35 (2022): 10269-10281.

Valipour, Mojtaba, et al. "Symbolicgpt: A generative transformer model for symbolic regression." arXiv preprint arXiv:2106.14131 (2021).

符号回归框架

符号回归结果