Dec, 2023

基于变分自编码器的改进一位热生成材料建模，向逆向材料设计迈进一步

PDF
TL;DR我们研究了能够编码难以明确表达的物理约束的生成模型的构建。针对逆向材料设计问题，其中寻求设计具有预定属性的材料是一个重要挑战，我们对隐式数据集关系进行编码，即数据集中的某些材料可以分解成其他材料，并提出了一种能够在潜在空间中保持这一属性并生成具有相同属性的新样本的 VAE 模型。这在顺序逆向材料设计中特别有用，这是一个通过深度强化学习训练策略来通过顺序添加（或删除）元素设计具有特定属性的材料的新兴研究领域。
generative modelsinverse material designsynthetic viabilityvae modelsequential inverse material design
发现论文，激发创造
  • 利用多模式先验的 VAE - 回归进行材料微结构设计

    我们提出了一种基于变分自编码器 (VAE) 的模型，用于构建前向和逆向的结构 - 性质联系，这是计算材料科学中至关重要的问题。我们的模型通过一个双层先验条件于回归变量来系统地结合 VAE 和回归模型。回归损失与变分自编码器的重构损失一起进行优化，学习与属性预测和重构相关的微观结构特征。该模型可以用于前向和逆向预测，即预测给定微观结构的属性以及预测获取给定属性所需的微观结构。由于逆向问题存在不适定性（多对一关系），我们使用多模态高斯混合先验导出了目标函数，使模型能够推断出多个适用于一组目标属性的微观结构。我们显示，在前向预测方面，我们的模型与最先进的仅前向模型一样准确。此外，我们的方法实现了直接逆向推断。我们表明，使用我们的模型推断的微观结构能够相当准确地实现所需的属性，避免了昂贵的优化过程。

    Feb, 2024

  • 使用置换不变编码器和更紧的变分界限学习多模态生成模型

    通过多模态数据，在机器学习研究中设计深度潜变量模型一直是一个长期的主题。本文考虑了一种可以严密下界数据对数似然的变分约束，同时发展了更灵活的聚合方案，通过组合不同模态的编码特征与置换不变神经网络。数值实验表明了多模态变分约束和各种聚合方案之间的权衡。我们展示了当我们想近似已鉴别模型中观察到的模态和潜变量的真实联合分布时，更紧密的变分约束和更灵活的聚合模型可能会带来益处。

    Sep, 2023

  • 一个基于深度生成模型和半监督学习策略的超材料的概率表示和逆向设计

    采用概率生成方法，在潜在空间中对设计元激元和光学反应进行压缩，以解决由物理结构到光学响应之间难以捉摸的关系带来的逆向设计问题。该模型可在训练期间利用有标签和无标签数据优化生成逆向设计和确定性正向预测。这种基于数据的模型可以成为在干涉材料和光子学研究领域中加速设计、表征和新发现的全面有效的工具。

    Jan, 2019

  • 深层生成模型的统一化

    本文介绍了针对生成模型学习中 GAN 和 VAEs 的新方法，并阐述了 GAN 和 VAEs 的相似性和差异性，探讨了它们的后验推理和 KL 散度的最小化问题，并将 VAEs 的 importance weighting 方法应用到 GAN 的学习中，同时采用对抗性机制加强 VAEs 模型，实验证明了这些方法的普适性和有效性。

    Jun, 2017

  • 可传递信息理论及其在深度生成模型中的应用

    本文介绍了一种基于控制先验和层次结构的基于变分自编码器 (SemafoVAE) 来实现分离表示和生成高质量图像的方法。

    Mar, 2022

  • 使用变分自编码器进行设备图像 - IV 映射的逆向设计和正向预测

    本文探讨利用基于变分自编码器 (VAE) 的新型结构，通过将器件结构图映射到相应的电流 - 电压 (IV) 特征，来学习底层器件物理学。使用 TCAD 生成的和手绘的 MOS 器件图像以及有噪声的漏电流 - 门电压曲线 (IDVG) 进行实证演示，而且该方法可以用于紧凑建模。

    Apr, 2023

  • 优化空间统计学空间中学习微结构的潜变量表示

    在材料科学中，通过训练变分自动编码器 (VAE) 来重建材料的空间统计特征，从而获得材料的低维表示。

    Feb, 2024

  • InVAErt 网络：一个数据驱动的模拟、推断和可辨识性分析框架

    该研究使用生成模型和深度学习来构建基于物理系统的仿真模型，通过引入 inVAErt 网络，利用确定性编码器和解码器来表示正向和逆向解决方案映射，结合归一化流来捕捉系统输出的概率分布，以及变分编码器来学习输入和输出之间的紧凑潜在表示。研究对损失函数中的惩罚系数选择和潜在空间采样策略进行了正式研究，并通过广泛的数值实例验证了该框架，包括简单线性、非线性和周期性映射，动力系统和时空偏微分方程。

    Jul, 2023

  • 文本生成的隐式深度潜变量模型

    本文提出了一种基于采样的变分分布表示方法，用于自然语言生成中 deep latent variable models，并通过最大化互信息的正则化来解决 posterior collapse 问题，进一步发展了 VAE，并在多个文本生成场景中证明了其有效性和通用性。

    Aug, 2019

  • 用于组合表示学习的多模态生成模型

    该文介绍了一种基于多模态数据边缘似然的分层变分自编码器的族群。文章使用 VAEGAN 及基于流的模型构建了模型。实验结果表明，对于图像、标签和文本数据，这些模型在很多领域中达到了最优结果，并且使用 GAN 图像模型和 VAE 语言模型可以得到更好的表现。最后，在配合口语的任务中，该文章发现用于学习图像表达的表示比只使用视觉数据中学习的等效表示更抽象、更组合。

    Dec, 2019