机器学习和域分解方法 -- 综述

Dec, 2023

Machine learning and domain decomposition methods -- a survey

Axel Klawonn, Martin Lanser, Janine Weber

TL;DR综述了黑箱机器学习方法与传统数值方法和领域专业知识相结合的混合算法在科学机器学习和各种工业领域，尤其是计算科学与工程中的重要性日益增长。对结合机器学习和区域分解方法的研究进行了调查，包括：经典机器学习的区域分解，用于加速物理感知神经网络训练的区域分解，使用机器学习改善区域分解方法的收敛性或计算效率，以及机器学习作为解决偏微分方程区域分解方法的离散化方法。在每个领域，总结了现有工作和重要进展，并最后讨论了未来研究的挑战和机会。

Abstract

hybrid algorithms, which combine black-box machine learning methods with experience from traditional numerical methods and domain expertise from diverse application areas, are progressively gaining importance in

hybrid algorithms machine learning domain decomposition methods computational science and engineering pdes

发现论文，激发创造

MG-GNN: 多重网格图神经网络用于多层次域分解方法的学习

本文提出了一种新颖的 GNN 结构，称为多级网格图神经网络 (MG-GNN)，用于学习两级 DDM 中的最优化参数，并使用一种新的无监督损失函数对其进行训练。我们展示了 MG-GNN 在优化方面优于其他流行的层次图网络架构，并且证明了我们提出的损失函数对于实现这种改进的性能是至关重要的。

Jan, 2023

一种适用于极限学习机的非重叠域分解方法：椭圆问题

提出了一种用于解决偏微分方程的极限学习机（ELM）方法，通过使用单隐藏层前馈神经网络预设隐藏层中的权重 / 偏置系数并使用线性最小二乘方法来训练神经网络的输出层参数，提高了 ELM 的训练速度。同时，引入非重叠域分解方法（DDM），结合本地神经网络和辅助变量，在大规模系统中实现高逼近质量。实验结果验证了该方法在加速性能方面的有效性。

Jun, 2024

一种使用受物理约束的神经网络的广义的 Schwarz 类型的非重叠域分解方法

基于人工神经网络的无网格 Schwarz 型非重叠域分解方法用于解决涉及偏微分方程的正向和反向问题，通过学习 Robin 参数以保证相邻子域之间解的一致性，并能够适应解的局部行为和域分割。

Jul, 2023

将自监督表示适应多领域设置

提出了一种通用、轻量级的领域解缠模块（DDM），用于在多个不同领域进行自我监督编码器的表示学习，具有更好的泛化性能。

Sep, 2023

泛化到未见领域：关于领域泛化的调查

这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

Mar, 2021

解释机器学习性能差异的分层分解

解释机器学习算法在不同领域表现差异的新的非参数分层框架，提供了聚合和详细分解的方法，不需要因果知识，同时导出了消除偏差、计算高效的估算器和统计推断程序，以获得渐近有效的置信区间。

Feb, 2024

基于模型的深度学习

本文介绍了一种新的信号处理和机器学习交叉领域的混合技术 —— 基于模型的深度学习系统。这种新技术结合了传统的数学模型与深度学习的优势，可以通过限定的数据量学习数据，同时保留先前领域知识，以期获得更高效的性能。本文提出了一种新的系统分类方法，并提供了具体的指南和来自最近文献的信号处理案例，以帮助未来基于模型的深度学习设计与研究。

Dec, 2020

将领域知识融入深度神经网络

本文调查了通过神经网络构建模型时如何加入领域知识，提供两种编码这种知识的方法，并描述了在每个方法的几个子类别中获得的技术和结果。

Feb, 2021

领域自适应理论概述：学习界限与理论保证调查

该论文综述了迁移学习中的一个具有代表性的子领域 —— 领域自适应，介绍了基于不同统计学习框架的学习界限等方面的理论研究现状。

Apr, 2020

使用机器学习提高圆柱代数分解

本文试图探究机器学习（具体而言是支持向量机）在选择算法和问题形式时的运用，分别在选择 Cylindrical Algebraic Decomposition（CAD）变量排序策略和识别哪些 CAD 问题实例可以从 Groebner Basis 预处理中获益两个方面进行了研究，并证明了机器学习在这两个方面的表现超过了人类开发的启发式算法。

Apr, 2018