连年来，深度学习在偏微分方程（PDEs）求解中展现出前所未有的后劲。

从征象模拟到材料科学，基于数据滥觞的神经聚集模子正束缚重塑科学筹算的界限。尤其是神经场（Implicit Neural Representations，INRs），凭借其集聚参数化的性情，大要收尾跨几何形态的高分辨率建模，在复杂场景下展现出额外的精度和纯真性。

可是，迎靠近具有剧烈空间变化的场景时，现存 INR 方法暴流露彰着的瓶颈。传统的全局调控机制条目模子在整个空间位置分享兼并组调控参数，这种方式在捕捉局部细节特征时显过劲不从心。跟着场景复杂度的晋升，全局调控不仅戒指了模子精度，还导致泛化能力下落。

为了处理这一贫苦，清华大学有计划团队建议了一种立异的空间调控方法 ——GridMix。灵感起首于谱方法的想想，GridMix 将空间调控参数默示为一组网格基函数的线性组合。GridMix 具备以下特质：

保留了空间调控的细粒度局部性，确保建模精度；

同期通过分享基函数索要全局结构信息，灵验缓解了过拟合风险。在一系列挑战性的 PDE 建模任务中，GridMix 展现出了显赫的性能晋升。异常是在稀薄空间域和技术外推场景下，其鲁棒性发扬尤为隆起。该有计划已被 ICLR 2025 选择，并获选为 Oral 论文（入选比例 1.8%）。

论文标题：GridMix: Exploring Spatial Modulation for Neural Fields in PDE Modeling论文地址：https://openreview.net/forum?id=Fur0DtynPX形式主页：https://github.com/LeapLabTHU/GridMix.git方法：本文有计划聚焦于偏微分方程（PDE）建模任务，其中枢是类似算子。该算子把柄底层 PDE，将输入空间中的函数映射到输出空间。此处默示界说域为且值域为的平方可积函数组成的无穷维空间。咱们重心有计划以下两类典型任务：

动态系统建模：旨在捕捉物理系统在瞻望技术范围内的动态演化流程。具体发扬为建模系统从情状到情状的出动流程，其中默示技术步长。

几何感知瞻望：把柄系统的几何构型瞻望其情状。在几何瞻望中，每个数据样本散播于不同的空间域上；而关于能源学建模，整个样本使用疏导的巡视空间域，测试时则弃取与巡视域不同的空间域来评估模子性能。需异常阐发的是，和均为完好域的子集。基于 INR 的 PDE 建模方法CORAL 是最具立异性的 INR 方法之一，它通过两阶段巡视政策处理偏微分方程建模问题。在第一阶段（重构阶段），该框架弃取两个神经调控场和永别对输入和输出函数进行参数化建模。这些神经调控场手脚基础模子，通过不同调制参数收尾对不同函数的重构。具体而言，INR 参数和在各自函数空间中分享，而调制参数和则是每个函数私有的。这些调制参数通过超聚集和从低维调控向量和中生成：，。经巡视后，每个函数可由低维调控向量经过分享 INR 重构，其重构弱点代表了默示质料。在第二阶段（瞻望阶段），CORAL 通过处理聚集学习调控编码与之间的映射关系。

图 1. 基于 INR 的 PDE 建模框架CORAL 的全局调控CORAL 哄骗 SIRENs 手脚其 INR 的主干聚集。SIRENs 是具有正弦激活函数的多层感知机，不错默示为：

其中，是聚集权重和偏置，为固定的放缩因子，，是空间坐标下的第层中间默示遣散。CORAL 通过平移调控（Shift Modulation）对 SIRENs 进行膨胀，将单个函数默示为：

其中默示第 i 层的调制参数。需要提防的是，这种全局调控参数在不同空间坐标之间是分享的。这一性情戒指了神经调控场默示复杂函数空间的能力。正如先前的有计划所展示的，全局调控无法捕捉局部细节，因为调控参数的任何变化齐会导致重构函数的全局扰动。

图 2. 不同调控方式

GridMix基于网格表征的空间调控方法在晋升 INR 学习能力方面展现出显赫上风，异常是在三维重建规模，其灵验性已被平素考据。受此启发，本文旨在探索空间调控在 PDE 建模中的的应用过甚潜在上风。具体而言，空间调控引入了一个基于网格的单通谈特征，其中H和W永别默示网格的空间分辨率（以二维空间为例）。咱们不错从该网格特征中索要位置相干的调控参数。具体门径如下：给定空间位置，率先索要围绕该位置的相邻网格点（在二维情况下为四个点）上的特征，其次通过双线性插值筹算。空间调控对应的平移调控方法可默示为： 

 

空间调控引入的位置相干的调控参数虽擅长捕捉局部信息，却难以在稀薄 / 弗成为的空间域中建模全局结构，导致未知区域重建质料骤降（如图 3 所示），从而严重制约跨空间域的泛化能力 —— 而这恰是鲁棒 PDE 建模的关键条目图 3. 重建遣散对比：不雅测数据的空间域在巡视集以外

 

为了缓解空间调控在巡视空间域上的过拟合问题，GridMix 将空间调控参数默示为一组网格表征的线性组合，如图 2 (c) 所示。率先，GridMix 界说一组网格表征手脚基函数，再通过这些基函数的线性组合生成空间调控参数。具体而言，每一荫藏层的网格羼杂默示为 

其中。这里默示 M 个网格基函数，为第 i 层的线性组合整个。这些整个通过超聚集 h 从低维调控向量 z 中猜测得到。网格基函数在不同的函数实例中分享，并与神经调控场一同优化。GridMix 具有以下特质：

局部细节捕捉：GridMix 保留了网作风控的局部性情，通过引入额外的可学习参数增强了模子在局部细节重建的抒发能力；

全局结构建模：GridMix 通过分享基函数对调控空间起到正则化作用。比拟一般空间调控需要为每个函数额外学习个独处参数，GridMix 将参数维度缩小至基函数的个数。这种维度压缩灵验减少了过拟合的风险，晋升了模子对全局结构的重建能力，以及在不同空间域上的泛化能力。

推行-动态系统建模在 Naviers-Stokes 和 Shallow-Water 两个动态系统建模任务上，GridMix 比拟神经算子方法（DeepONet 和 FNO）、图聚集方法（MP-PDE）以及基于全局调控的 INR 方法（CORAL）均获取了显赫的性能晋升。同期，GridMix 在稀薄空间域的重建和技术外推任务中发扬出优胜的鲁棒性，进一步考据了其平素的适用性。

图 4. 动态系统建模任务

图 5. 稀薄空间域下的 Shallow-Water 可视化遣散

几何感知推理

在几何感知推理中，模子把柄给定的几何结构（举例翼型（NACA-Euler）、水管（Pipe）和弹性材料（Elasticity））瞻望系统的情状。相较于全局调控方法，GridMix 在整个任务中均收尾了性能晋升。

图 6. 几何感知推理任务

回顾本文的孝敬主要在两个方面：

建议了一种新颖的空间调控方式 ——GridMix，它当然地交融了全局调控的全局结构建模和空间调控的局部细节捕捉能力；

在动态系统建模和几何感知推理等任务中充分考据了 GridMix 的额外性能体育游戏app平台，异常是在稀薄空间域和技术外推场景下上风显赫。