AAAIDec, 2022

学习从多个选项中选择

PDF
TL;DR本文提出了一种基于文本蕴涵的上下文化选择模型 Context-TE，以及一种能够快速进行推理的并行选择模型 Parallel-TE，这两种模型在三项常见选择问题任务中实现了 state-of-the-art 的性能表现，其中 Parallel-TE 在推理过程中将 pairwise TE 的时间复杂度降低了 k 倍。
nlptextual entailmentselection problemcontext-teparallel-te
发现论文，激发创造
  • 文本转 SQL 系统的 N-Best 假设重新排序

    该研究使用预训练语言模型和约束解码技术，通过重新排序和重新解析的方式来改进 Text-to-SQL 任务的查询准确性，最终在任务中达到了最高准确率，并提出了查询计划生成方案的启发式模式。

    Oct, 2022

  • 多特征机器翻译中的上下文示例选择

    本文提出了一种基于回归函数的实例选择方法，结合了多种影响例子选择的因素，可以显著提高翻译质量，平均提高超过 2.5 个 COMET 点。

    May, 2023

  • 低资源命名实体识别基于提示的文本蕴涵

    本文提出了 Prompt-based Text Entailment (PTE) 低资源命名实体识别技术，将命名实体识别作为文本蕴含任务，并使用 Pre-trained Language Models 和 entity type-specific prompts 来获得高性能。通过在 CoNLL03 数据集和 MIT Movie 及 Few-NERD 数据集上进行的实验，结果表明该方法 PTE 在低资源场景下的表现优于微调的对照组。

    Nov, 2022

  • 分治法用于依存关系感知的多跳证据检索

    通过考虑多种相关性信号，我们将多跳问题回答的证据检索任务划分为两个子任务：语义文本相似度和推理相似度检索。我们提出了两种集成模型 EAR 和 EARnest，分别处理每个子任务，然后考虑不同的相关性信号对句子进行重新排序。在 HotpotQA 上的实验证明，我们的模型不仅显著优于基于单一检索模型，而且比两个直观的集成基准模型更有效。

    Nov, 2023

  • 先学习可能性，再选择最佳方案：通过文本游戏分离语言中的一对多关系

    利用离散潜在变量和知识蒸馏的方法，从多样的预训练数据集中捕捉了一系列不同的行为，并将这种多样性应用于学生模型中，显著提高了对话系统生成回复的准确性。

    Apr, 2023

  • 利用上下文目标属性进行目标情感分类

    利用 PTLM 的语言建模能力来生成与评价语境相关的目标属性的新观点以及采用异构信息图形式的网络对属性信息、句法信息和语境信息进行建模的模型在三个基准数据集上取得了先进的性能。

    Dec, 2023

  • 不留任何任务：多任务学习知识跟踪和选项跟踪，以提高学生评估能力

    本文提出了一种多任务学习框架，称为 Dichotomous-Polytomous Multi-Task Learning（DP-MTL），该框架综合了知识追踪和选项追踪，以更精确地评估学生的知识状态，并证实该框架可以明显提高知识追踪和选项追踪的性能，并 profit downstream tasks such as Score Prediction（SP）。

    Apr, 2022

  • 基于图的任务对话系统知识选择器

    本论文基于当代最先进的语言模型构建了 Graph-Knowledge Selector（GKS）来解决对话系统中知识选择的问题，并考虑了知识之间的联系，明显优于 Ninth Dialog System Technology Challenges（DSTC9）中提出的几种最新技术模型。

    Dec, 2021

  • 神经主题分割中上下文建模的改进

    本文提出了一个基于层级注意力双向 LSTM 网络的主题分割器，通过添加相干性相关的辅助任务和受限制自注意力来更好地建模上下文，从而超过了 SOTA 方法，并在领域转移设置中证明了其鲁棒性和在多语言场景中的有效性。

    Oct, 2020

  • SMDT: 选择性记忆增强神经文档翻译

    本文提出了一种选择性存储增强神经文档翻译模型，通过从训练语料库中检索相似的双语句对来增强全局上下文信息，并扩展双流注意力模型以捕捉局部上下文和多样化的全局上下文，该统一方法使我们的模型可以优雅地在三个公开的文档级机器翻译数据集上训练，并显著优于以前的文档级 NMT 模型。

    Jan, 2022