Oct, 2023

核弹性自编码器用于分子设计

PDF
TL;DR基于变换器结构的核弹性自编码器（KAE）是一个自我监督的生成模型，通过修改的最大均值偏差和加权重构函数，解决了同时实现有效生成和准确重构的长期挑战，并在分子设计中取得了显著的多样性和近乎完美的重构，超越了之前的分子生成模型。KAE 实现了条件生成，在受限优化中基于波束搜索进行解码，表现出了优于训练数据集中所有现有候选物的最新性能。除了分子设计，我们预计 KAE 可以应用于解决一系列生成问题。
发现论文，激发创造
  • 时态一致的 Koopman 自动编码器用于预测动力系统

    通过引入时间一致的 Koopman 自编码器（tcKAE），本文解决了模型训练数据有限和含噪声时 KAE 方法效果不佳的问题，并在简单摆动、动力学等多个测试案例中实证了 tcKAE 模型相较于现有模型的优越性能。

    Mar, 2024

  • Wasserstein 自编码器

    本文提出了 Wasserstein 自编码器（WAE）算法，通过最小化 Wasserstein 距离来构建数据分布的生成模型，并与其他技术进行比较，表明其是对抗自编码器（AAE）的推广，可用于生成更高质量的样本。

    Nov, 2017

  • 无监督医学报告生成的知识图谱自动编码

    提出了一种基于知识图谱自编码器（KGAE）的无监督学习模型，实现医学图像和文本信息自动关联。在医学报告生成中，KGAE 的性能达到目前同类模型的最高水平。

    Nov, 2021

  • NeVAE：分子图形的深度生成模型

    本文提出了一种适用于分子结构的、特别设计了多项技术创新的变分自编码器，并发展了一个梯度优化算法用于优化其生成分子的能力，实验结果表明该模型比多种现有模型更能够有效地发现合理、多样且新颖的分子。

    Feb, 2018

  • Epanechnikov 变分自编码器

    本文通过将核密度估计应用于变分自动编码器 (VAEs)，近似后验概率分布，推导出极大似然下界 (ELBO) 中 KL 散度的上界，展示了 Epanechnikov 核在最小化 KL 散度上界方面的优势。在 MNIST、Fashion-MNIST、CIFAR-10 和 CelebA 等基准数据集上的实验证明了 Epanechnikov 变分自动编码器 (EVAE) 在重建图像质量方面的卓越性能。

    May, 2024

  • 蛋白质折叠模拟的几何解耦表示学习

    利用生成型神经网络学习药物靶标蛋白结构的结构集合，以便于更好的理解药物机理和发展治疗方法，同时通过蛋白几何自编码器模型在蛋白质的内在和外在几何学上进行分离编码，快速生成蛋白质构象的方案。

    May, 2022

  • AutoKE：科学机器学习自动知识嵌入框架

    提出一种名为 AutoKE 的科学机器学习框架，利用神经网络、方程解析器、神经结构搜索和迁移学习等技术，实现了将物理知识嵌入预测模型的自动化，解决了应用物理方程问题中的编程难题。

    May, 2022

  • 在变分自动编码器中匹配聚合后验概率

    通过改进目标函数，提出了新的自动编码器模型 AVAE，利用 KDE 来建模高维度下的边缘后验分布，通过多个基准数据集的实证评估验证了 AVAE 相对于 SOTA 方法的有效性。

    Nov, 2023

  • 基于随机 Wasserstein 自编码器的概率句子生成

    本文介绍 Wasserstein 自编码器 (WAE) 的应用，用于概率句子生成，并与其他概率模型进行比较。研究表明，在 stochastic encoding 由固定分布制备时，该分布往往趋向于变成 Dirac delta function，于是提出了一种改进型 WAE 以鼓励编码的随机性，实验表明，该模型在保持与 VAE 相似的连续性和平滑性的同时，能更好的还原句子。

    Jun, 2018

  • 使用高斯混合变分自编码器从分子模拟中生成可解释的嵌入

    本研究论文介绍了使用 Gaussian mixture variational autoencoder（GMVAE）进行分子模拟数据的降维和聚类，以及其在构建 Markov 状态模型方面的潜在应用。

    Dec, 2019