关系模式的分布式表示组合
本研究探讨了在深度学习中通过将关系和感觉信息分隔,以及引入归纳偏差来改善系统的推理性能,并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性,提高了关系计算的分布外泛化能力。
Jun, 2022
该研究介绍了一个名为 ConceptWorld 的环境,用于生成通过逻辑领域特定语言定义的构成和关系概念的图像。研究测试了标准神经网络和关系网络的泛化能力,并提出了一个潜在的基准模型,以鼓励在构成和关系领域有效泛化的模型的发展。
Jun, 2020
该论文提出了一种使用递归神经网络推理多跳关系的新方法,通过向既有的知识库添加由多跳关系推理得出的新事实实现知识库完成,并在新整理的数据库上展示了 11% 的准确度提升。
Apr, 2015
知识图谱嵌入(KGE)是解决知识图谱完成(KGC)任务的有效方法。本文通过对 4 种常见关系模式的性能评估和理论分析,引入了一种无需额外训练的训练无关方法(SPA)来提高 KGE 模型的性能。
Aug, 2023
本文通过提出一个多重循环神经网络的新模型,其可以广泛应用于语言的组合式含义,还可用于微观情感分析任务。研究者通过这种模型建立了与之前研究的矩阵空间模型建立了联系,并证明它们是该乘法网络的特例。 该研究发现其表现比 Elman 型加性循环神经网络要好,在标准的微观情感分析语料库上优于矩阵空间模型,并且不需要生成句子的语法树,并且在最近发布的斯坦福情感树库上产生与结构深层模型相当的结果。
Dec, 2014
本研究提出了 CompGCN,一种新的图卷积框架,可同时嵌入节点和关系,解决了处理多关系图的过度参数化问题,广义了现有的多关系 GCN 方法,取得了节点分类、链接预测和图分类等多个任务的显着优异结果。
Nov, 2019
此研究通过自编码器联合训练关系,实现了维度缩减技术,提高了知识库完成任务的效率,并展示了联合训练对于发掘关系组合限制和有益于组合训练的可解释性稀疏编码的促进作用。
May, 2018
本研究提出了一种基于分布式方法和基于模式方法集成的弱监督关系提取模型,通过共同训练两个模块,实现在标记数据不足的情况下提高识别准确率的目的。在实验中,该模型成功完成了知识库补全和语料库级别关系提取任务。
Nov, 2017
本文提出了一种基于注意力机制、利用传递路径信息和局部语义的多模式嵌入模型(ÆMP),用于学习知识图谱中实体和关系的语境化表示,并在多个知识图谱基准上获得了大幅度的预测性能提升。
Jun, 2022
通过最大化同一文本最小扰动嵌入之间的对齐,以及在更广泛的语料库中鼓励嵌入的均匀分布,基于对比学习的各种方法已被提出来从未标记的数据中学习文本表示。不同的是,我们提出最大化文本和其短语成分组成之间的对齐,考虑了此目标的多种实现方法,并详细阐述了每种情况下对表示的影响。语义文本相似性任务上的实验结果显示,与最先进的方法相当的基线改进。此外,本工作是第一个这样做而不需要额外网络参数或辅助训练目标的工作。
Jul, 2023