Jan, 2020

理解并减轻物理启示神经网络中的梯度病理

TL;DR本文回顾了科学机器学习的最新进展,特别关注物理启发式神经网络在预测物理系统结果和从噪声数据中发现隐藏的物理方面的有效性。我们提出了一个神经网络体系结构,该结构对梯度病理具有更强的鲁棒性,并提出了一个学习率退火算法,通过使用模型训练期间的梯度统计数据来平衡复合损失函数中不同项之间的相互作用。所有伴随本手稿的代码和数据都是公开可用的。