Aug, 2023

扩散概率模型增强变分自编码器用于晶体结构生成建模

PDF
TL;DR利用扩散概率模型 (DP 模型) 代替标准评分匹配，DP-CDVAE 模型能够重构和生成与原始 CDVAE 质量统计上可比的晶体结构，并且显著地提高了能量准确性，更好地表示晶体的基态构型。
发现论文，激发创造
  • 周期性物质生成的晶体扩散变分自编码器

    本文介绍了一种基于材料稳定性物理感应偏差的晶体扩散变分自编码器，通过学习稳定材料的数据分布，生成具有物理约束的材料周期结构，其在重构输入结构，生成有效、多样、真实材料以及生成优化特定特性的材料方面胜过现有方法，并提供了标准数据集和评估指标。

    Oct, 2021

  • 使用去噪扩散概率模型对分子图进行变分自编码

    本文提出了一种新的分子深度生成模型，该模型在概率潜变量中加入分层结构，并能通过小数据集实现有效的分子潜在向量设计和物性预测。

    Jul, 2023

  • 使用 VAEs 从冷冻电子显微成像中推断出原子坐标的连续分布

    本研究提出了使用变分自编码器的深度学习方法，从挑选后的粒子图像中恢复连续分布的原子蛋白质结构和构象，并在现实模拟数据上展示了其有效性，希望能够将该方法应用于更好地理解非刚性蛋白结构。

    Jun, 2021

  • 联合等变扩散方法的晶体结构预测

    DiffCSP 是一种新颖的扩散模型，它通过使用周期性 E (3)- 等变去噪模型联合生成晶体的晶格和原子坐标，以更好地建模晶体几何结构，并在计算成本更低的情况下显著优于现有的结晶结构预测方法，包括从头开始的晶体生成。

    Jul, 2023

  • ClusterDDPM：一种带有去噪扩散概率模型的 EM 聚类框架

    利用新型的去噪扩散概率模型（DDPMs）引入创新的期望最大化（EM）框架进行聚类，通过优化学习聚类友好的潜在表示，有效地提高了聚类、无监督条件生成和潜在表示学习的性能。

    Dec, 2023

  • 用于快速模拟 CERN 粒子碰撞的生成扩散模型

    利用扩散模型，我们首次使用模拟方法对 ALICE 实验中的 Zero Degree Calorimeter（ZDC）进行了模拟，与现有基线相比实现了最高保真度，结果表明潜在扩散模型具有快速生成时间的显著潜力。

    Jun, 2024

  • 扩散变分推断：扩散模型作为表达丰富的变分先验

    我们提出了去噪扩散变分推断（DDVI）算法，它是一种基于扩散模型作为表达性变分后验的潜变量模型的近似推断算法。我们的方法通过辅助潜变量来增强变分后验，从而得到一类表达性模型，通过反转用户指定的噪声过程在潜变量空间中进行扩散。通过优化受 wake-sleep 算法启发的边缘似然的一种新的下界，我们拟合这些模型。我们的方法易于实现（它适用于正则化的 ELBO 进一步扩展），与黑盒变分推断兼容，并且优于基于归一化流或对抗网络的替代近似后验类别。当应用于深层潜变量模型时，我们的方法得到了去噪扩散 VAE（DD-VAE）算法。我们将该算法应用于生物学中的一个激励任务 -- 从人类基因组推断潜在祖先 -- 在 Thousand Genomes 数据集上优于强基线模型。

    Jan, 2024

  • DiffuseVAE: 从低维潜变量中高效、可控、高保真生成

    提出了一种新的生成框架 DiffuseVAE，它将 VAE 与扩散建模框架相结合，为扩散模型提供了低维的 VAE 学习到的潜在代码，从而能够用于控制合成等下游任务，并且在速度与质量的平衡方面比标准无条件 DDPM / DDIM 模型要好，同时表现出与最先进的模型可比的综合质量，还显示出天生的对不同类型的噪声具有泛化能力。

    Jan, 2022

  • DiVAE：具有去噪扩散解码器的真实感图像合成

    该研究提出了一种使用 VQ-VAE 和扩散解码器的 DiVAE 图像生成模型，相关实验结果表明该模型能够生成高度逼真的图像，特别适用于条件综合任务。

    Jun, 2022

  • 预训练扩散概率模型中的无监督表征学习

    本文提出了一种基于现有预训练 DPM 模型的图像重建通用方法 PDAE，实现了比 Diff-AE 更好的训练效率和性能，并通过对分类器引导采样的机制填补信息缺失的空隙，使编码器对图像进行更好的重建，表现出了较高的有效性、效率和灵活性。

    Dec, 2022