- 基于交叉注意力的立场检测上下文信息整合
使用双编码器模型将来自不同来源的上下文信息与预训练语言模型相结合,提高文本领域内作者立场识别的准确度。
- EMNLP从大型预训练模型中引导知识,以实现无监督的知识驱动对话
本文探究了大规模预训练在知识引导对话中的应用。通过各种方法获取大型模型的知识,利用后验重加权和嘈杂训练策略进一步挖掘其价值,并在两个基准数据上进行了实验,结果表明其优于现有的最新方法。
- 知识库中的知识有多稳定?
本研究探讨了知识库的稳定性与真实世界的演变之间的关系,提出了一些启发式规则以预测实体属性对未来的稳定性和可靠性,并在 Wikidata 领域进行了实证研究。
- 短社交媒体文本中实体链接的强韧候选生成
研究了 Tweet 领域中实体链接方法的挑战,提出了一种使用来自维基百科的长上下文表示的混合解决方案,经过实验评估和比较,取得了 0.93 的召回率。
- 知识提示:通过柔性提示将世界知识注入语言模型
本文提出使用软提示的方法将世界知识应用到大型自然语言模型中,通过自监督学习在知识库数据上训练软提示,得到的软知识提示可以被用于提高语言模型在不同知识密集型任务中的性能。
- DecAF:针对知识库问答的答案和逻辑形式联合解码
本文提出了一种基于简单的自由文本检索而非依赖工具实现的实体链接的新框架 DecAF,旨在检索答案,解决了生成的逻辑形式可能出现的语法和语义错误的非执行问题,并获得了 WebQSP、FreebaseQA 和 GrailQA 数据集上的最新业绩 - 基于语义解析的知识库问答
本综述探讨了基于知识库的问题回答(KBQA)的两个独特挑战,并综述了现有 KBQA 方法的解决方法,其中建议通过深度学习领域的语义分析研究成果,解决当前 KBQA 研究遇到的瓶颈,特别是在预训练语言模型的时代。
- UnCommonSense: 关于日常概念的信息性负知识
本文提出了 UNCOMMONSENSE 框架,以材料化负面常识陈述,给定一个目标概念,识别 CSKB 中可比较的概念,通过局部封闭世界假设将可比较概念的正陈述用于生成负陈述候选项,并对其进行筛选和排序。该方法超出了现有技术在内在和外在评估方 - 三值析取混合 MKNF 知识库的不动点特征化
本文提出一种基于 fixpoint 构造和头截断的解决方法,以逐步捕捉具有析取规则的混合 MKNF 知识库的三值模型,并探讨与 AFT 中的逼近器的关系。
- 低资源语言的高效实体候选生成
本篇论文针对跨语言实体链接领域中的候选生成问题,提出了一种基于简单的索引构建的解决方法,特别适用于低资源语言,并在 9 个真实世界数据集上进行了充分的实证分析,结果表明在几乎所有数据集和查询类型中,该方法在质量和效率方面均优于现有方法。
- 跨语言知识图谱实体标签映射的统计和神经方法
本研究探讨使用单词和句子对齐技术以及匹配算法来对来自特定多个语言的 Wikidata 实体标签进行对齐,并展示使用该技术能显着提高信息一致性的 F1 得分,尤其是使用句子嵌入技术的方法,这将可以用于机器翻译等领域。
- CBR-iKB: 基于案例推理的不完整知识库问答方法
提出了一种基于案例推理的方法,CBR-iKB,用于知识库问答系统,该方法可以适应不完整的知识库,通过新颖的非参数推理算法,综合多个推理链的决策,无需特定的训练或微调,达到了 100%的 MetaQA 准确度,同时在 WebQSP 下取得了 - COLINGArcaneQA: 知识库问答的动态程序归纳和上下文编码
本文提出了一种名为 ArcaneQA 的生成式模型,该模型在统一框架中解决大规模搜索空间和模式链接的挑战,并在多个知识库问答数据集上取得了高竞争力的性能,特别是在效率和有效性方面。
- 语言模型作为知识库的综述
本文回顾了最近关于使用预先训练的自然语言处理语言模型作为知识库的文献,提出了应该具备的一些方面,探讨了这种方法相较于传统知识库的优势在于无需人工监督进行的无监督学习。
- ACL基于知识库指导的预训练和同义词感知微调的生成式生物医学实体链接
本文提出了一种新的方法来解决生物医学实体链接的问题,利用基于知识库的预训练和微调,以及多种类似词的构建方式来进行模型训练,这种方法在多项实验中都取得了最优结果。
- AAAI使用知识增强语言模型评估假新闻检测
本研究探讨了将丰富的人类编写的事实信息知识库集成到语言模型中,以提高假新闻检测的效果和鲁棒性。通过使用维基数据等知识库的几种最先进的知识集成方法,在 LIAR 数据集和 COVID-19 数据集这两个广受欢迎的假新闻数据集上进行了实验研究。 - 使用知识库的数据编程提高变压器微调答案句子选取
本文利用数据编程技术设计了一种有效方法,可以使用知识库获得的上下文信息来进行 transformers 在回答句子选择 QA 任务中的精细调整,模型优化效果在 WikiQA 和 TrecQA 基准测试中比 SOTA transformer - ICML基于子图的案例推理知识库问答
我们提出了一种基于图的方法 CBR-SUBG,利用相似的子图和潜在的推理模式来回答在知识库中问答。我们还提出了一种自适应的子图收集策略,以选择一个紧凑的子图,并显示 CBR-SUBG 可以与最佳模型竞争地回答需要子图推理模式的查询。
- 使用 ORBITS 查询不一致的优先数据:算法、实现和实验
该研究探讨了一种能容忍不一致性的查询回答算法,依据逻辑理论、事实集和冲突事实间的优先关系构建知识库,并提出了一种新的基于 SAT 求解器的编码模式,能够应用在不同推理模式下实现查询回答。
- 一个多任务半监督框架用于 Text2Graph 和 Graph2Text
该研究提出了一种基于 T5 架构的多任务半监督环境下联合学习文本图谱提取和图谱生成的解决方案,此方法在 WebNLG 数据集中表现优于无监督最新成果,且相较于有监督模型更具一致性。