运用物理先验信息的深度学习作为广义正则化器
本论文利用强化学习的框架基于后验规则化方法,扩展了对任何深度生成模型的灵活应用,以便建立学习约束为外在奖励的约束及其开发过程。通过该算法的应用,模型的学习知识约束能够得到显著提高。
Jun, 2018
本文研究如何通过强化机器学习模型的物理先验知识来解决物理图像理解问题,提出了一种包含 17 个物理系统的数据集,对当前物理启发式机器学习方法进行了细致的对比分析,结果表明尽管这些方法通常可以学习到具有良好性质的隐藏空间,但没有显著提升标准技术的性能。
Nov, 2021
本文提出了一种基于先验学习的新方法,用于提高深度神经网络的泛化和不确定性估计,该方法利用可伸缩和结构化的神经网络后验作为具有泛化保证的信息先验。我们的学习先验在大规模上提供了具有表现力的概率表征,可以看作是在 ImageNet 上预训练模型的贝叶斯对应物,并进一步产生非平凡的泛化界限。我们还将这个想法扩展到了一个连续学习的框架中,其中我们的先验的有利特性是可取的。我们的技术贡献是(1)Kronecker 积分和求和计算,以及(2)导出和优化可追踪的目标,从而导致改进的泛化边界。从实证上来说,我们详尽地展示了这种方法用于不确定性估计和泛化的有效性。
Jul, 2023
应用深度生成模型通过物理学定理来传递极高复杂物理系统中的不确定性。我们构建出一个隐式变分推断公式,并顺利地运用物理学原理作为模型输出的约束条件。这让模型在面对高成本数据采集以及通常小型训练数据集的物理系统建模时具备了一种可扩展的方法来描述随机输入或观测和物理系统输出的不确定性,并以传输动态为规范示例来验证了方法的有效性。
Dec, 2018
该研究提出了一种新的 3D 建模和重建学习框架,通过连接基于学习和基于优化的方法的优点并优化学习的先验和潜在编码,提高了深度生成器的广义性。实验结果显示,该方法在处理高度稀疏或坍塌的观测数据方面比现有方法都有优势。
Dec, 2020
本文提出一种利用先前领域知识改进通用生成模型性能的方法,通过引入正则化项,让生成模型的边缘分布遵循预设的特征依赖关系,可嵌入多种生成模型(例如变分自编码器、生成对抗网络)的基于反向传播的学习过程中
Feb, 2019
这项工作介绍了一种对隐藏物理模型的新型增强方法,可以泛化处理系统输入、参数和领域的变化,并展示了该方法在系统发现方面的潜力,可以帮助学习变化后的系统输入、参数和领域配置的隐藏物理。
Jan, 2024
通过学习通用的动力学先验以及使用物理视频进行预训练和微调,我们提出了一种加速政策学习和改进表现的基于模型的深度强化学习方法,同时也实现了更有效的环境迁移。
May, 2019