May, 2024

几何对齐迁移编码器的多任务扩展

PDF
TL;DR利用分子数据中的多任务相互信息，通过将曲线坐标与局部平坦坐标对齐来扩展 Geometrically Aligned Transfer Encoder (GATE) 算法，连接多个分子任务以确保从源任务到目标数据的信息流。
molecular datasetsmutual informationgeometrically aligned transfer encodermulti-task setupcurved coordinates
发现论文，激发创造
  • 用于归纳迁移回归任务的几何对齐迁移编码器

    通过使用差分几何，我们提出了一种基于几何对齐的转移编码器（GATE）的新型转移学习方法，该方法能够有效地在回归任务中从源数据向目标数据传递知识，并展现出在潜空间和外推区域的稳定行为，从而在各种分子图数据集上优于传统方法。

    Oct, 2023

  • GeRA：标签高效的几何正则化对齐

    引入半监督几何规范化对齐方法（GeRA）来对齐预训练单模态编码器的嵌入空间，通过利用不配对（无标签）数据的流形几何来改善对齐性能，引入了基于扩散算子的几何损失项来防止对局部几何的扭曲，GeRA 是模态不可知的，可以用于对来自任何数据模态的预训练编码器进行对齐，我们的实验证明，在语音 - 文本和图像 - 文本对齐领域，我们的方法较一些主流基线方法在对齐质量方面取得了显著改善，特别是在有限的配对数据量下，使用我们提出的几何规范化方法。

    Oct, 2023

  • 蛋白质折叠模拟的几何解耦表示学习

    利用生成型神经网络学习药物靶标蛋白结构的结构集合，以便于更好的理解药物机理和发展治疗方法，同时通过蛋白几何自编码器模型在蛋白质的内在和外在几何学上进行分离编码，快速生成蛋白质构象的方案。

    May, 2022

  • 基于分子几何的 Transformer 模型，用于准确建模三维原子系统

    我们提出了一种新颖的 Transformer 架构 Moleformer，它将节点（原子）和边（键和非键原子对）作为输入，并使用旋转不变性和平移不变性的几何感知空间编码来模拟它们之间的相互作用。我们在 OC20 和 QM9 数据集上进行了基准测试，Moleformer 在 OC20 的初始状态到松弛能量预测方面实现了最先进的水平，并且在预测量子化学性质方面与其他 Transformer 和图神经网络方法相比非常有竞争力，证明了所提出的几何感知空间编码在 Moleformer 中的有效性。

    Feb, 2023

  • 多任务学习中信息传输的理解与改善

    本文研究了多任务学习的方法，使用共享特征表示所有任务，并研究了线性和 ReLU 激活模型的理论。通过实验证明了任务数据的对齐有助于多任务训练和转移学习，特别地，我们的对齐方法比 BERT-LARGE 在 5 个 GLUE 任务上平均提高了 2.35％的得分，并设计了基于 SVD 的任务重新加权方案来提高多任务训练在多标签图像数据集上的鲁棒性。

    May, 2020

  • 分子联合自编码：2D 和 3D 扩散下的轨迹预训练

    该研究提出了一种面向分子联合自编码（MoleculeJAE）的预训练方法，该方法可以学习分子的二维键和三维构象信息，通过扩增轨迹的弥散过程模型，MoleculeJAE 能够以自我监督的方式学习分子的化学结构，优于与其相比的 12 个竞争基准，在 20 个任务中有 15 个任务达到了最先进的性能水平。

    Dec, 2023

  • 门控机制增强的对话路由多任务学习

    本文提出一种基于 Gated Mechanism 的多任务模型来处理各种对话数据之间的任务和知识关系，并取得了最优表现。

    Apr, 2023

  • TransGaGa：几何感知的无监督图像到图像翻译

    本文采用解缠和翻译框架解决复杂物体的图像翻译任务，使用外观和几何空间提取出独立但互补的表示，并分开翻译。实验结果表明，该方法在接近刚性和非刚性物体翻译任务中的表现优于其他最先进方法，同时支持多模式翻译。

    Apr, 2019

  • GeoMFormer：一种用于几何分子表示学习的通用架构

    通过 GeoMFormer 这一基于 Transformer 的分子模型，在维持和学习不变和等变表示的同时，通过精心设计的交叉注意力模块实现信息融合和增强几何建模，以提高不同类型和规模的不变和等变任务的性能。

    Jun, 2024

  • GaFET：学习自野外图像的几何感知面部表情翻译

    基于参数化的三维面部表情表示，我们提出了一种新颖的面部表情转化框架（GaFET），该框架可以稳定地分解表情，并通过多级特征对齐变换器和基于 StyleGAN 的去表情模型解决了非几何面部细节特征和空间特征对齐的问题，进而实现了与当前最先进方法相比更高质量和更准确的面部表情转换结果，并且适用于各种姿势和复杂纹理。此外，我们的方法省略了视频或注释训练数据，使得使用和推广更加简单。

    Aug, 2023