ACLJun, 2019

为深度时序排序模型嵌入时间表达式

PDF
TL;DR本文介绍一种框架来将时间感知融入模型，方法是通过学习预先训练的模型嵌入时间表达式，生成由时间表达式和相关事件组成的合成数据，使用字符 LSTM 学习嵌入并分类时间表达式的时间关系，在强神经模型的上下文中评估嵌入的效用，并在 MATRES 数据集上表现出微小的提高，对于具有更频繁的事件时间交互的自动收集数据集则提供了更实质性的收益。
data-driven modelstemporal orderingtimexesneural net modelsmatres dataset
发现论文，激发创造
  • 使用深度学习和基于语法的方法进行多语言 Timex 检测和归一化的模块化方法

    本文提出一种模块化的多语言时间处理系统，结合了微调的遮蔽语言模型和基于语法的规范化器，实验在西班牙语和英语中并与 HeidelTime 进行比较，获得了最佳结果的金标准 timex 标准化、timex 检测和类型识别，并在组合 TempEval-3 松弛值度量中具有竞争性的表现。

    Apr, 2023

  • XLTime：一个用于时间表达式抽取的跨语言知识迁移框架

    XLTime 使用预训练语言模型和多任务学习，在英语和非英语语言之间促进跨语言知识转移，以减轻目标语言数据短缺引起的问题，在法语、西班牙语、葡萄牙语和巴斯克语等语言上表现优于先前的自动 SOTA 方法，并且显著缩小了手工制作的 HeidelTime 方法的差距。

    May, 2022

  • 朝有效时间感知的语言表示：探索语言模型中增强的时间理解

    本研究探讨了在自然语言处理领域中理解文本的时间背景的方法，并介绍了一种新型语言模型 BiTimeBERT 2.0，该模型通过预训练在一个时间新闻文章集合上，利用三种创新的预训练目标以有效地获得时间感知的语言表示，从而在与时间相关的任务中实现改进的性能。实验结果显示，BiTimeBERT 2.0 在多种依赖时间的下游自然语言处理任务和应用中显著优于 BERT 和其他现有的预训练模型。

    Jun, 2024

  • TIMELINE：新闻文章中支持自动排序事件的时间关系的详尽注释

    该研究论文介绍了一种新的标注方案，以解决现有时间关系注释新闻数据集中存在的问题，并自动化了标注过程，从而减少了时间和人力成本。该论文还报告了基于新语料库进行训练和评估基线时间关系提取模型的结果，并与广泛使用的 MATRES 语料库的结果进行了比较。

    Oct, 2023

  • 神经排序模型中的词汇和时间信号整合，用于搜索社交媒体流

    本文中探索了一种利用递归神经网络来挖掘社交媒体中时间信号的替代方法，将已有的神经排序模型与双向 LSTM 层集成，以抓取相邻文档在时间上的时序连贯性，并且实验证明通过整合语义和时间信号可以显著提高排序的效果。

    Jul, 2017

  • 一种改进的神经网络基线用于时间关系提取

    本研究提出了一种新的神经系统，通过采用语境化单词嵌入，一个时间常识知识库的连体编码器和整数线性规划的全局推理，在 MATRES 数据集上进行训练，取得了一个基准数据集上绝对精度提高约 10％（25％的误差降低）的结果。我们认为，这种新方法可以为未来研究提供一个强大的基准线。

    Sep, 2019

  • 细粒度时间关系提取

    本研究提出了一种新的语义框架来建模时间关系和事件持续时间，构建了迄今为止最大的时间关系数据集，并利用该数据集训练了预测细粒度时间关系和事件持续时间的模型，表现出强大的实验结果，并展示了预测分类关系的迁移学习方法的功效。

    Feb, 2019

  • 探寻语言模型对时间表达的理解能力

    该研究针对自然语言推理（NLI）挑战，提出了三个涉及时间表达式的挑战集，包括时间点之间的顺序、时间之间的持续时间及不同单位时间的大小关系，并发现尽管很多 MNLI 预训练大语言模型对时间点之间的顺序有基本的认知，但它们并没有充分理解时间表达式之间的关系。

    Oct, 2021

  • 上下文中基于对话的时态表达规范化的学习

    使用大型语言模型和上下文学习，通过样本选择策略实现时间表达归一化，取得了与此任务相关模型相媲美的竞争性结果，并在非标准设置中通过动态包含相关示例在推断过程中实现大幅度的性能改进。

    Apr, 2024

  • 基于时间戳的语言模型：教授语言模型理解事件流

    使用时间戳编码的语言模型，将追踪实体的过程转化为问题回答问题的任务，取得了较好的结果。

    Apr, 2021