优化空间统计学空间中学习微结构的潜变量表示
我们提出了一种基于变分自编码器 (VAE) 的模型,用于构建前向和逆向的结构 - 性质联系,这是计算材料科学中至关重要的问题。我们的模型通过一个双层先验条件于回归变量来系统地结合 VAE 和回归模型。回归损失与变分自编码器的重构损失一起进行优化,学习与属性预测和重构相关的微观结构特征。该模型可以用于前向和逆向预测,即预测给定微观结构的属性以及预测获取给定属性所需的微观结构。由于逆向问题存在不适定性(多对一关系),我们使用多模态高斯混合先验导出了目标函数,使模型能够推断出多个适用于一组目标属性的微观结构。我们显示,在前向预测方面,我们的模型与最先进的仅前向模型一样准确。此外,我们的方法实现了直接逆向推断。我们表明,使用我们的模型推断的微观结构能够相当准确地实现所需的属性,避免了昂贵的优化过程。
Feb, 2024
我们研究了一种变分自编码器的变体,其中顶层离散的潜变量是一个超结构。我们的超结构是多个超级潜变量的树结构,并且可以自动从数据中学习。与以往的深度学习方法不同,LTVAE 可以生成多个数据分区,每个分区都由一个超级潜变量给出。这是由于高维数据通常具有许多不同的自然方面,可以用多种方式进行有意义的划分。
Mar, 2018
本文提出了一种新型的 Variational Autoencoder with Learned Latent Structure(VAELLS)模型,该模型融合了可学习的流形模型,使得先验分布与数据流形匹配,并允许定义潜在空间中的生成变换路径,同时尝试在已知潜在结构的情况下进行验证,并展示了该模型在现实世界数据集上的性能。
Jun, 2020
我们研究了能够编码难以明确表达的物理约束的生成模型的构建。针对逆向材料设计问题,其中寻求设计具有预定属性的材料是一个重要挑战,我们对隐式数据集关系进行编码,即数据集中的某些材料可以分解成其他材料,并提出了一种能够在潜在空间中保持这一属性并生成具有相同属性的新样本的 VAE 模型。这在顺序逆向材料设计中特别有用,这是一个通过深度强化学习训练策略来通过顺序添加(或删除)元素设计具有特定属性的材料的新兴研究领域。
Dec, 2023
该研究提出了一种集成多尺度特性和生成对抗网络的创新生成模型,用于重建三维微结构,提高模型的准确性,并通过结合图像正则化损失和 Wasserstein 距离损失进一步改进模型,实现了生成的三维结构与真实样本的高相似性和统计数据一致性。
Feb, 2024
这篇文章介绍了一种对变分自动编码器 (VAEs) 进行简单扩展的方法,通过渐进性减小潜空间大小来自动确定训练过程中的最佳潜空间大小,并将该方法与传统的超参数网格搜索进行比较,结果表明其速度显著更快,且在四个图像数据集上实现了最佳的维度。此外,还证明了我们方法的最终性能与从头开始训练的最佳潜空间大小相当,因此可能作为一种便利的替代方法。
Dec, 2023
本文提出了一种基于变分自编码器和神经自回归模型的简单但原则性的方法来学习全局表示,该方法允许对全局潜在特征进行控制,通过设计相应的架构,可以迫使全局潜在特征丢弃 2D 图像纹理等无关信息,并且通过利用自回归模型作为潜在分布和解码分布,可以大大提高 VAE 的生成建模性能,实现了 MNIST、OMNIGLOT 和 Caltech-101 Silhouettes 密度估计任务的新的最先进结果。
Nov, 2016
利用预测时间下一节点以及基于时间平滑性的模型选择度量,我们提出了一种能够减轻 VAE 学习虚假特征,并能在合成数据集中准确恢复潜在因素的 VAE 架构。
Dec, 2023
本研究提出了一种基于深度潜在随机变量的自然图像生成模型,其采用新型分布称为修正高斯,其中采用类似 spike-and-slab 的稀疏性,保持了有效的随机梯度变分推断的可微性;通过一个结构化后验分布估计函数的近似,提出了一种新型结构化变分近似方法,避免常规均场假设,并保持了生成模型的先验依赖关系,从而实现了具有许多层潜在随机变量的深度模型的联合训练。
Feb, 2016