Feb, 2019

让历史有意义：面向视觉对话的历史优势序列训练

PDF
TL;DR本文提出一种新的训练方式 History Advantage Sequence Training (HAST)，通过引入 Actor-critic 策略梯度思想和历史上错误策略来更好地生成对话回复。此外，通过提出一种新的注意力网络 History-Aware Co-Attention Network (HACAN)，该方法在多轮回合的图像对话中表现出了显著的性能提升。
multi-round response generationvisual dialogactor-critic policy gradienthistory advantage sequence traininghistory-aware co-attention network
发现论文，激发创造
  • 视觉对话中的历史记录：我们真的需要吗？

    本文提出基于对话历史信息的注意力机制可以有效提高视觉对话系统的性能，并呈现出一种新的评估数据集进行基准测试，取得了 63% 的 NDCG 值。

    May, 2020

  • 面向会话问答的注意力历史选择

    本研究提出一种新的解决方案，涉及三个方面（位置历史答案嵌入法、历史注意机制、多任务学习），用于通过卷积式问题应答来理解和回答当前问题，并通过多项实验评估证明该模型的有效性。

    Aug, 2019

  • 多轮开放域对话系统中的历史感知层次变压器

    本文提出了历史感知的分层 Transformer - 多轮开放域对话系统，能够利用历史交互信息与时下言语背景生成基于上下文且相关性强的对话回应，并在大规模多轮对话数据集上取得了优异的表现结果。

    Feb, 2023

  • 面向视觉和语言导航的历史感知多模态 Transformer

    通过引入一种历史感知的多模式转换器来将长期历史包含在多模式决策中，以在视觉和语言导航中构建自主的视觉代理，进而通过使用强化学习进一步优化导航策略。

    Oct, 2021

  • 使用历史回答嵌入的 BERT 模型进行对话式问答

    提出了一种简单而高效的历史答案嵌入方法，能够无缝地将对话历史整合到基于 BERT 的对话问答 (ConvQA) 模型中，对不同设置下的不同历史轮次进行分析并在 ConvQA 中提供新的见解。

    May, 2019

  • 学习在对话问答中选择相关历史转折

    提出了一个名为 DHS-ConvQA（Conversational Question Answering 中的动态历史选择）的框架，该框架通过生成相关历史转折中的上下文和问题实体，并根据它们与问题之间的相似性进行修剪，使用基于注意机制的方法重新排列修剪过的术语，并通过二分类任务突出显示重排的对话历史中的术语，以提高系统性能，并且证明了选择相关转折比重写原始问题更有效的实证结果。

    Aug, 2023

  • 神经对话系统有效利用对话历史吗？实证研究

    本文研究了神经生成模型在对话系统中对历史对话的敏感性，并通过实验证明在测试时的上下文人为干扰（例如缺失或重排序发言，混淆词语等）对常用的递归和基于 Transformer 的 seq2seq 模型的影响很小，在开源其代码的同时，本文所提供的测试评估工具将为未来的对话系统改进提供参考。

    Jun, 2019

  • 通过合成问题生成实现对话问答的一致性训练

    通过模型化历史信息，在对话问答（QA）环境中高效地处理用户查询至关重要。本文引入了一种新的模型无关方法，称为 CoTaH（一致性训练增强历史），利用合成问题增强历史信息，并通过一致性训练训练模型，使推理过程能够鲁棒地处理无关的历史信息。我们的模型在建模对话 QA 设置时，首次使用问题生成作为数据增强的形式，并通过引入一种常见的建模错误，提出了一个新的基准模型和对比实验，表明了结果的提升，特别是在处理包含大量历史背景的问题时。源代码可在我们的 GitHub 页面找到。

    Apr, 2024

  • 序列型演员 - 评论家算法在图像字幕生成中的应用

    本研究探究了基于 actor-critic 强化学习的图像标题生成模型的训练方法，通过计算每个 token 的优势和值实现直接优化语言质量指标，取得了在 MSCOCO 数据集上的最先进性能。

    Jun, 2017

  • 目标驱动和视觉对话系统的全流程优化

    本文介绍了一种基于深度强化学习的方法，使用策略梯度算法来优化基于任务且与视觉相关的对话，该方法在通过 Mechanical Turk 收集的 12 万个对话数据集上进行了测试，并提供了鼓舞人心的结果，可以解决生成自然对话和在复杂图像中发现特定对象的问题。

    Mar, 2017