使用线性机器学习模型的持久图
本文提出了一个新颖的具有转换不变性的特征学习框架,将线性转换纳入特征学习算法中,可应用于无监督学习方法,如自动编码器或稀疏编码,证明在 MNIST 变化,CIFAR-10 和 STL-10 等图像分类基准数据集上具有优越的分类性能并在 TIMIT 数据集上实现了最先进的电话分类任务的结果。
Jun, 2012
我们提出了一个框架,旨在学习两个连续时间步骤中观察到的图像之间的基本动态。通过估计图像演化的中间阶段,我们的方法关注在保持图像的空间相关性的同时提供可解释性,并通过偏微分方程中表示的物理模型引入潜在动态学变量,确保了所学模型的可解释性并提供了相应图像动态的洞察力。通过对地球科学图像数据进行一系列数值测试,我们证明了我们学习框架的鲁棒性和有效性。
Oct, 2023
高维数据集在各个学科的统计建模中带来了很大的挑战,需要高效的降维方法。深度学习方法通过降维的潜在特征空间从复杂数据中提取关键特征,有着广泛的应用,从生物信息学到地球科学等领域。本研究通过引入一个新的工作流程来评估这些潜在空间的稳定性,确保后续分析的一致性和可靠性。该工作流程囊括了三种稳定性类型:样本稳定性、结构稳定性和推断稳定性,并引入了一套综合评估指标。研究结果揭示了潜在特征空间固有的不稳定性,并证明了该工作流程在量化和解释这些不稳定性方面的功效。这项工作推进了对潜在特征空间的理解,促进了深度学习在各种分析工作流中的模型可解释性和质量控制,为更加明智的决策提供了基础。
Feb, 2024
本文研究了潜在扩散模型在产生逼真图像时的内在机制,通过使用线性探针发现,LDM 的内部激活编码了简单场景的几何和显著对象 / 背景区别的线性表示,并且这些表示出现在去噪处理的早期阶段,对 LDM 图像合成具有因果作用,并可用于简单的高级编辑。
Jun, 2023
通过纯数据驱动的工作流程,构建了一套用于分布式动力系统的简化模型(ROMs);所采用的 ROMs 是由近似惯性流形(AIMs)理论启发,并以此为模板;应用机器学习工具可以避免需要准确的截断 Galerkin 投影和推导闭合修正的需求;并探讨了通过自动编码器和扩散映射这类流形学习技术发现合适的潜在变量集并进行可解释性测试的方法;该方法可以用理论的(Fourier 系数)、线性数据驱动的(POD 模态)和 / 或非线性数据驱动的(扩散映射)坐标表示 ROMs;同时描述了黑盒模型和(基于理论和数据纠正的)灰盒模型;灰盒模型是在截断 Galerkin 投影无法后处理的情况下必要的;文章使用 Chafee-Infante 反应扩散和 Kuramoto-Sivashinsky 耗散偏微分方程来举例并成功测试了整个框架。
Oct, 2023
本文提出了一种通用框架来训练单个深度神经网络,以解决任意线性反问题,通过提供一个接近算子来实现这一目的,并在压缩感知和像素插值等任务中显示出优越的性能。
Mar, 2017
本文综述了物理信息机器学习在解决复杂物理和生物系统中的应用,重点介绍了使用 PINN 和 PIGN 网络的物理信息神经网络和图神经网络的应用以及其在大规模工程问题中的扩展。
May, 2022
直接将一组不变性直接融入表示中,构建一种不变分量的产品空间,旨在解锁合并、拼接和重用不同神经模块的应用,并观察到分类和重建任务中的一致潜在相似性和下游性能改进。
Oct, 2023
逆问题与扩散模型、保度量动力学、随机动力系统和动力学感知的扩散生成模型 (D3GM) 有关,并揭示了以上几个策略的稳定性和广泛适用性,以及 D3GM 在多个基准测试中的有效性。
Jun, 2024
本文提出一种基于 Riemannian geometry 和 product manifolds 的可微分图模块,用于推断连接数据的复杂潜在图结构。该方法不仅可以动态地学习数据的内在结构,还可以在性能上对现有方法进行改进并成功地在各种数据集上进行了测试。
Nov, 2022