ACLMar, 2019

面向生命关系抽取的句向量对齐

PDF
TL;DR本研究提出了一种基于记忆增量学习的关系抽取方法，通过利用带重现记忆的随机梯度优化方法和明确对齐模型，在保留之前任务学习经验的同时有效地适应新的数据和关系。实验表明，所提出的方法明显优于现有的生命周期学习方法。
relation extractionlifelong learningincremental learningmemory-efficient learningembedding space
发现论文，激发创造
  • 不断嵌入学习和迁移，用于不断增长的知识图谱

    本研究提出了一个新型知识图谱嵌入模型，实现快速学习和传输新的知识。通过使用掩码知识图自编码器进行嵌入学习和更新，并采用嵌入传输策略和嵌入规则化方法，避免灾难性遗忘。实验证明，该模型在生命周期嵌入与归纳嵌入方面表现优于现有模型。

    Nov, 2022

  • 连续关系抽取的一致表示学习

    研究了连续关系抽取中存在的历史信息遗忘问题，提出了一种基于对比学习和知识蒸馏的持续关系表示学习方法，能够有效地避免历史信息遗忘，并在 FewRel 和 TACRED 数据集上进行了大量实验，相比于现有基线算法，提出的方法表现更具鲁棒性。

    Mar, 2022

  • 嵌入空间分离与压缩的终身事件检测

    为了解决遗忘和过拟合问题，我们提出了一种基于嵌入空间分离和压缩的新方法。该方法通过迫使新数据的特征分布与先前的嵌入空间分离来减轻先前学习任务的遗忘，并通过内类紧凑性增强机制鼓励记忆数据靠近其原型，从而减轻过拟合。此外，新任务的学习参数通过利用先前学习任务中获得的知识来初始化，以促进前向知识传输。通过大量实验证明，我们的方法可以显著优于先前的最先进方法。

    Apr, 2024

  • SEE: 基于语法感知的实体嵌入用于神经关系抽取

    本文提出了一种基于语法树和句子嵌入的远程监督关系抽取方法，使用句子和实体的嵌入对关系进行分类，实验结果表明这种方法在真实数据集上取得了最佳的性能。

    Jan, 2018

  • 通过区分类似语义来提高持续关系提取

    该研究旨在学习新出现的关系，同时避免忘记学过的关系，提出了一种用于相似关系的新颖连续抽取模型，包括设计记忆无关的关系原型和记忆增强等方法，以克服过拟合问题，并引入集成训练和关键知识蒸馏来增强对相似关系的处理，实验结果表明该模型的优越性及对相似关系的区分能力。

    May, 2023

  • 全局关系嵌入用于关系提取

    通过收集全文的文字和知识库关系的共现统计数据，利用文本关系嵌入来处理远程监督下错误标记的问题，从而增强了现有的关系提取模型，在常用关系提取数据集上，将精度从 83.9％提高到 89.3％。

    Apr, 2017

  • 受限内存下高效元生存学习

    本文提出一个高效的元学习框架，将终身学习的三个普遍原则相结合，以有效地训练同时避免灾难性遗忘和负迁移，并达到与多任务学习相当的性能。

    Oct, 2020

  • 联合学习实体和关系表示用于实体对齐

    本文提出了一种使用图卷积神经网络（GCN）学习实体和关系表示的新颖联合学习框架，以改善实体对齐，并证明利用有用的关系表示来协助实体对齐是一种简单而有效的方法。通过在三个真实的跨语言数据集上进行的实验表明，我们的方法显著优于现有的实体对齐方法。

    Sep, 2019

  • 通过嵌入空间正则化和数据增广进行连续少样本关系学习

    本文提出了一种基于嵌入空间规范化和数据增强的新模型，用于以少量标记数据学习新的关系模式，并避免对以前任务的重大遗忘，实验表明此方法在连续少样本关系学习任务中显著优于现有技术。

    Mar, 2022

  • 利用稀疏经验回放进行元学习，实现终身语言学习

    本文提出了一种基于元学习和稀疏经验回放的方法来实现连续学习，以避免深度学习模型在顺序学习任务时遗忘先前的知识。该方法在真实场景下实现了连续的文本分类和关系提取任务，并展示了其低计算和空间复杂度。

    Sep, 2020