Jan, 2022

社交对话中面向实体的上下文跟踪的统一方法

PDF
TL;DR本文提出了一种实时更新的实体仓库，用于表示对话上下文中已经提到的实体及其关系，并采用端到端建模方法解决了包括标签标注、指代消解、实体链接等多个子任务，同时提供了一个大规模对话语料 Contrack ，以及一种基于神经网络的上下文跟踪方法，并与现有方法进行比较。
context trackingentity repositoryend-to-end modelingcontrack corpusneural network
发现论文，激发创造
  • 实体跟踪改善填空式阅读理解

    本文探索基于简单神经方法的阅读理解模型在长期语境处理和记忆显著信息方面的能力，提出了两个扩展方案：增加实体特征和使用多任务跟踪目标进行训练，并在 LAMBADA 数据集上取得了优于当前最先进方法的效果，特别是在难度较高的实体示例中。

    Oct, 2018

  • 高效易解释的实体追踪神经模型

    本文提出了一种能够以高效的方式对实体进行追踪的模型，它使用预训练的语言模型来表示实体，并将实体追踪集成到语言模型中，为自然语言理解和 NLP 应用带来了很大的便利。

    Aug, 2022

  • 对话中的个人实体、概念和命名实体链接

    本文介绍了一种对话实体链接的工具，使用了不同于现有方法的技术来识别如人称实体和命名实体这种在对话中扮演重要角色的实体，并在实验中证明了其优于已有技术的性能。

    Jun, 2022

  • DSTC6 中的端到端对话建模赛道

    本文提出基于人人对话数据的挑战赛以训练端到端对话模型，实现了端到端的对话任务，模拟了客户服务的各种情况。

    Jun, 2017

  • 实体中心模型学得了什么？来自多方对话中实体链接的深入了解

    本文分析了两种最近提出的实体中心模型在一个实体链接任务中的性能表现，这些模型在低频率实体上表现优异，并且自然地促进了良好的架构决策，然而，它们并没有真正构建实体表示，并且对语言上下文的利用效果不佳，这些负面结果强调了对模型进行分析的需要，以测试特定架构的动机是否体现在模型部署时的行为中。

    May, 2019

  • 语言模型中的实体跟踪

    本文探讨了大语言模型在跟踪实体状态和关系变化方面的能力，发现只有预训练于大量代码的 GPT-3.5 模型具有此能力，而使用预训练于文本的较小模型进行微调后也可以完成一定程度的实体追踪。但这种能力不仅取决于模型的大小，大文本库的预训练也不是必要条件。

    May, 2023

  • 通用对话状态跟踪

    StateNet 是一种通用的对话状态跟踪器，它独立于值的数量，共享所有插槽的参数，并使用预训练的词向量而不是明确的语义字典来解决当前方法在大型对话域上难以扩展的挑战，并且在两个数据集上的实验显示，我们的方法不仅克服了这些限制，而且还显著优于最先进的方法的性能。

    Oct, 2018

  • 通过多任务学习模型和提及引导解码的有效利用实体追踪

    该研究介绍了一种名为 MeeT 的多任务学习启发的实体跟踪方法，该方法利用一般领域任务中获得的知识来提高实体跟踪的准确性，无需设计具体的模型结构或专门的预训练，在两个常用的实体跟踪数据集上实现了最佳效果。

    Oct, 2022

  • 对话处理的在线共指消解：提高即时对话中的提及链接

    本文提出了一种针对在线解码的指代消解方向，其针对包含对话在内的实时生成输入的场景，在每个对话轮次上，该模型接受一个话语和其过去的语境，然后查找当前话语中的提及以及它们的指代。该文章提出了基线和四个增量更新的模型，适应于提到链接范式的新设置，其中包括单一实例、说话人定位编码和跨轮次提及的情境化。在 Friends、OntoNotes 和 BOLT 这三个数据集上评估我们的方法，结果表明每个方面都带来了稳定的改进，我们最好的模型比基线高出 10％以上，是这个场景的一个有效系统。进一步分析突出了任务特点，例如解决提及回忆的重要性。

    May, 2022

  • 利用预训练语言模型简化自我追踪的自然语言交互

    提出了一种基于 NLP 和 GPT-3 的领域不可知的自然语言交互框架，可以从自述性的日志文本中提取信息，解决了自我追踪设计空间广阔且追踪主题和数据格式多样化的挑战。研究显示，该方法明显优于基线 QA 模型，为未来 NLP 与 HCI 领域的合作提供了前景。

    May, 2022