EMNLPSep, 2018

为情境实体类型分类构建上下文感知从句表示

PDF
TL;DR该研究提出了一种基于上下文的从整个段落中推断子句情境实体类型的方法，通过建立上下文感知的子句表示形式，提出了一种分层循环神经网络模型，成功的进行了情境实体类型分类，并且达到了人类级别的准确率。
clause categorizationnlp applicationscontext-aware clause representationsrecurrent neural network modelsituation entity classification
发现论文，激发创造
  • 用于情境识别的循环模型

    本文提出使用递归神经网络模型来预测结构化的 “图像情境”，进一步研究了行为和名词实体在动作相关的语义角色中的作用，并且创新性地使用了专门的动作预测网络，以及一个 RNN 来进行名词预测。相比于之前使用条件随机场的工作，我们的系统在最近的 imSitu 数据集上获得了最佳的准确性表现，并且将从情景预测中学习到的特征转移到图像字幕生成任务中，以便更准确地描述人 - 物互动。

    Mar, 2017

  • 学习句子表示的高效框架

    本文提出一种从未标记数据中学习句子表示的简单有效的框架，通过将句子出现的上下文预测问题重新表述为分类问题，并基于句子向量表示来区分上下文句子和对比句子，并在多个下游 NLP 任务中展示了高质量的句子表示的超越性能以及训练时间的数量级加速。

    Mar, 2018

  • 从文本中学习跨语境实体表示

    通过填充空白的任务来学习来自文本上下文中提及的实体的上下文无关表示，结果展示了 Neural 模型的大规模训练可以学习到高质量的实体表示，并在四个领域展示了成功的结果。

    Jan, 2020

  • 使用上下文表示改进话语依存分析

    本研究提出了一种基于 transformers 的新方法，通过对不同级别单元的上下文化表示进行编码，动态捕捉对话依赖分析所需的信息，并将对话关系识别视为序列标记任务

    May, 2022

  • 在段落中建模话语单元的相互依赖关系以提高隐含话语关系分类能力

    通过构建神经网络模型，模拟句子和段落之间的相互依赖和连续性，并能够连续预测段落中的语篇关系，从而提高隐含的语篇关系分类的效果，并在 PDTB 的基准语料库上取得了最佳性能。

    Apr, 2018

  • 使用上下文化的跨度表示进行实体、关系和事件提取

    我们提出了一个名为 DyGIE ++ 的统一、多任务框架，并通过枚举、精炼和评分文本跨句的局部和全局环境以完成命名实体识别、关系提取和事件提取等三项信息提取任务，利用动态跨句子关系模拟实现了跨句子实体关系抽取，该框架在多个领域的四个数据集上均取得了最好的结果。

    Sep, 2019

  • 面向情境中段落影响力的可解释性推理

    本文探讨了一种基于神经网络的逐步推理模型，旨在更细致地理解为背景段落中叙述的因果关系，并将此知识应用到新的情境中，实验结果表明了其有效性和可解释性。

    Oct, 2020

  • 使用事件知识图谱和自然语言处理的全面事件表示

    利用自然语言处理技术，结合知识图谱的构建和上下文关系，利用 Transformer 技术从文本中提取事实信息以构建全面的基于图的事件表示。

    Mar, 2023

  • 实体和关系抽取中的情境化和泛化

    本文主要研究了最新的自然语言处理技术中，神经网络和语言模型在命名实体识别和关系抽取方面的应用以及它们在训练过程中面临的一些挑战。我们发现，预训练的语言模型对发现未曾见过的命名实体表现良好，但对于未曾见过的关系则有待加强，因此模型的理解能力仍存在提升空间。

    Jun, 2022

  • DisSent: 显式语篇关系的句子表征学习

    利用依存分析和基于规则的指标，我们能够通过利用显式的篇章关系来筛选高质量的句子关系任务，从而得出高质量的句子嵌入向量及用作 BERT 等更大型模型的监督微调数据集。

    Oct, 2017