Nov, 2022

NAPG: 混合表格 - 文本问答非自回归程序生成

PDF
TL;DR通过提出一种非自回归程序生成框架，可以同时独立生成包含运算符和操作数的完整程序元组，从而显着提高程序生成速度，同时解决了误差积累问题，实验结果显示在 MultiHiertt 数据集上，我们的模型比强基准模型有很大的改进（+7.97EM 和 + 6.38F1 分），并且在程序生成方面速度更快（21 倍），同时我们的方法在增加数值推理步骤的情况下性能的下降也显着小于基线模型。
发现论文，激发创造
  • HopPG：针对异构知识进行多跳问答的自迭代程序生成

    我们提出了一个自我迭代的多跳程序生成框架（HopPG），用于异构知识上的多跳程序生成，它利用前一跳的执行结果来检索支持事实并迭代生成后续程序。我们在 MMQA-T^2 上评估了我们的模型，实验结果表明 HopPG 在多跳问题上优于现有的语义解析基线模型。

    Aug, 2023

  • 基于图形编码器和树形解码器的表格 - 文本混合内容中的数值推理问题回答

    本文提出了一种关系图增强型的混合表文本数值推理模型，将表 - 文本混合内容的数值问题回答建模为表达式树生成任务，并在公开基准测试中验证了其性能。

    Sep, 2022

  • 多视图图表示学习用于回答混合数值推理问题

    本文提出了一种使用多视图图形编码器来对文本和表格数据进行混合问答 (Hybrid question answering) 的方法，以解决现有方法中文本和表格数据之间粒度关系和空间结构信息的问题，并在公共数据集 TAT-QA 上取得了最优性能。

    May, 2023

  • 面向表格和文本混合数值推理的全面解决方案程序化预训练

    本文提出了三个预训练任务，具体包括：变量完整性排名（Variable Integrity Ranking）；变量操作符预测（Variable Operator Prediction）；变量关键词屏蔽（Variable Keyphrase Masking）并应用这些任务对数字推理进行建模，结果表明这种方法比基于 Transformer 的模型胜出，对金融报表等表格和文本混合结构进行数字推理具有较高的效果。

    May, 2023

  • 预训练语言模型的非自回归式文本生成

    本文提出了一种基于 BERT 的非自回归文本生成模型，通过引入新的解码策略（ratio-first）以及机制来解决 NAG 模型中的两个问题，并在三个文本生成任务上进行全面评估，证明该模型在速度和性能上均优于现有的非自回归基线模型，在许多强自回归模型上也取得了有竞争力的性能.

    Feb, 2021

  • 神经机器翻译及其扩展中的非自回归生成调查

    本文对不自回归生成（NAR）进行了系统的调查，并比较和讨论了不同方面的各种非自回归翻译（NAT）模型，包括数据处理、建模方法、训练标准、解码算法以及受到预训练模型的好处，同时简要回顾了 NAR 模型在机器翻译以外的其他应用，并讨论了未来探索的潜在方向。

    Apr, 2022

  • UniRPG：基于表格和文本的统一离散推理生成程序

    本文提出 UniRPG—— 一种基于 Semantic Parsing 的方法用于 Knowledge 中的离散推理，包括算术计算，比较和计数，以及属于表格和文本等异构知识资源；UniRPG 结合了神经程序员和符号程序执行器来执行程序生成和回答问题。

    Oct, 2022

  • 针对结构化电子病历的问答不确定性感知文本转程序

    本文设计了程序为基础的模型（NLQ2Program）以利于未来拓展医疗多模态数据和解决复杂推理的电子健康记录问答任务，该模型在没有金标程序的情况下表现良好，运用不确定性分解方法可测度输入问题的模糊性。

    Mar, 2022

  • 清晰思考，快速交谈：面向开放域对话系统的概念引导非自回归生成

    设计一个基于概念引导的非自回归模型，为了更好地管理概念转换并能够顺序解码引入多个概念，实现可控和连贯的对话生成，实验表明该模型在速度和质量上都优于现有最先进的模型。

    Sep, 2021

  • 带执行引导的 Text-to-SQL 生成的鲁棒性

    该研究探讨了神经话语解析的问题，引入新的执行指南机制来利用 SQL 的语义，证明其普遍提高了基于自回归生成模型的语义解析模型的性能。

    Jul, 2018