May, 2024
桥接运算符学习与条件神经场：统一视角
Bridging Operator Learning and Conditioned Neural Fields: A Unifying Perspective
Sifan Wang, Jacob H Seidman, Shyam Sankaran, Hanwen Wang, George J. Pappas...
TL;DR运算符学习是机器学习的一个新兴领域，旨在学习无限维度函数空间之间的映射。本文揭示了运算符学习体系结构与计算机视觉中的条件神经场之间的联系，为研究流行的运算符学习模型之间的差异提供了统一的视角。我们发现许多常用的运算符学习模型可以看作是带有点状和 / 或全局信息约束的神经场。在此基础上，我们提出了一种新颖的神经运算符体系结构 —— 连续视觉 Transformer（CViT），它采用视觉 Transformer 编码器，并使用交叉注意力来调节由可训练的基于网格的位置编码的查询坐标构建的基本场。尽管简单，CViT 在气候建模和流体动力学等具有挑战性的基准测试中取得了最先进的结果。本研究为在物理科学中构建更灵活准确的机器学习模型并利用先进的计算机视觉结构进行适应性改进迈出了第一步。