Oct, 2023

SALSA：语义感知潜空间自动编码器

PDF
TL;DRSMILES 序列通常被用作深度学习药物发现中的化学数据表示方法，然而仅仅使用 SMILES 作为输入训练自编码器无法学习到具有语义意义的分子表示，为了解决这个问题，我们提出了一种针对图 - 图相似性学习的具有语义感知的自编码器（SALSA），并通过对比任务优化训练目标，我们实验证明这种方法能够得到质量更高的潜在空间。
deep learningdrug discoverysmiles sequenceslatent spacecontrastive task
发现论文，激发创造
  • 约束图变分自编码器用于分子设计

    本文提出一种基于变分自编码的图结构模型，用于生成符合已有数据分布的化学分子结构，并通过实验数据分析表明该模型在分子生成任务上表现较好，同时使用合适的隐空间设计允许生成具备特定性质的分子。

    May, 2018

  • 自编码器的结构化

    本文提出了一种称为 Structuring AutoEncoders 的神经网络，其可以使用弱监督形成结构化的低维空间，从而更有效地表示并分类数据。在基准图像数据集 MNIST、Fashion-MNIST、DeepFashion2 以及 3D 人体形状数据集上进行的实验表明，结构潜空间可以为进一步的分类任务和分类数据的有效选择的操作提供更高效的表征。

    Aug, 2019

  • 无监督文本风格转移的鲁棒和语义组织潜在表示

    该研究提出了一种基于 EPAAEs 的方法，通过在连续嵌入空间中添加一个可调整噪音组件来完善扰动模型，从而更好地聚类风格相似的句子，且在文本风格转移任务上表现优异，同时还将文本风格转移任务扩展到 NLI 数据集，并证明了该方法最适合学习具有更复杂风格的数据集。

    May, 2022

  • 使用监督自编码器的半监督分类在生物医学应用中的应用

    这篇文章介绍了一种新的半监督分类方法，该方法使用监督自编码器网络，将标签编码到自编码器的潜空间，并定义一个结合分类和重构损失的全局准则，用 PyTorch 实现该半监督自编码器方法并展示其在生物医学应用中的卓越表现。

    Aug, 2022

  • 基于注意力的分层变分自编码器的分子生成

    将递归神经网络与卷积网络以层次化方式结合，可以从 SMILES 字符串中提取自回归信息并保持信号和长程依赖关系，从而实现了在重构已知分子时非常高的有效性率达到 95%。同时，我们观察到测试集和重构分子之间的平均 Tanimoto 相似性为 0.6，这表明我们的方法在使用类似方法的先前工作中比较有效地将 SMILES 字符串与其学习表示之间进行映射。

    Jan, 2024

  • 跨域潜在同源的终身解缠结表示学习

    本文提出了一种基于最小描述长度原则的变分自编码器算法，可以实现无监督表示学习，并可以自动检测数据分布的变化并为新知识分配足够的表示空间，同时保护以前学习的表示免于灾难性遗忘，该方法可以实现表示的分离，具有共享潜在特征的语义上有意义的特征，同时可以跨领域共享经验。

    Aug, 2018

  • 潜空间应用于人脸图像局部风格操作的 Latents2Semantics

    利用 Latents2Semantics 自编码器模型实现人脸图像中具有高度局部化编辑风格属性的 ROI 的结构保持风格编辑，并避免了传统风格编辑流程中需要额外的人为监督的问题。

    Dec, 2023

  • 监督自编码神经网络潜空间配置的泛化改进

    本文研究了自编码器的潜在空间（LS）属性，并提出了两种获得期望拓扑结构的 LS 配置方法。研究表明，利用几何损失项直接作用于 LS 的损失配置方法可以可靠地获得期望的 LS 配置，从而可以在 LS 中定义相似性度量来预测标签或估计多个输入的相似性，而无需使用解码器或分类器。研究还证明，使用所提出的方法训练的有监督自编码器在纹理分类方面表现良好，并且可以在没有微调的情况下很好地泛化到来自 LIP、Market1501 和 WildTrack 数据集的未见数据，甚至可以用于评估未见类的相似性。此外，通过跨数据集搜索和基于文本查询进行文本搜索的实验证明了预配置的 LS 相似性估计的优势，而无需使用语言模型。

    Feb, 2024

  • 提升您的分子：在潜在欧几里得空间中生成分子图

    通过合成构象坐标和 E (n)- 等变图神经网络 (EGNN) 将分子图映射到欧几里得点云，我们介绍了一种新的分子图生成的框架 ——SyCo。学习其逆映射后，可以应用现有的 3D 分子生成模型。此方法将图生成问题简化为点云生成问题，随后进行节点和边的分类任务。此外，我们提出了一种基于修复和引导的新型相似性约束的 3D 扩散模型优化方案。作为我们框架的一个具体实现，我们开发了基于 E (3) 等变扩散模型 (EDM) 的 EDM-SyCo，在分子图的分布学习中实现了最先进的性能，在 ZINC250K 和大规模 GuacaMol 数据集上优于最佳的非自回归方法 30% 以上，同时将条件生成的性能提高了最多 3.9 倍。

    Jun, 2024

  • 情感分析半监督自编码器

    研究使用自编码器进行文本数据建模的监督学习方法，并利用 Bregman 散度加权得到自编码器的新损失函数，在 6 个情感分析数据集上显示其比竞争方法更有效，并同时展示了该模型能够利用无标签数据进行改进。

    Dec, 2015