ACLJul, 2021

迭代网络剪枝、扩展和掩盖的面向任务型对话系统的连续学习

PDF
TL;DR本文提出了一种有效的迭代网络剪枝、扩展和掩蔽（TPEM）的持续学习方法，它将网络剪枝用于保留旧任务的知识，采用网络扩展来为新任务创建自由权重，以及引入任务特定的网络掩蔽来缓解旧任务的固定权重对新任务的负面影响。在三个基准数据集的七个不同任务上进行了广泛的实验，结果表明 TPEM 相对于强大的竞争对手具有显著改善效果。
continual learningtask-oriented dialogue systemiterative network pruningnetwork expandingnetwork masking
发现论文，激发创造
  • 参数级软掩模用于连续学习

    这篇论文提出一个名为 SPG 的新技术，通过对每个参数的重要性进行软阻塞来解决在连续学习中防止灾难性遗忘、促进知识转移和解决能力问题的目标，并取得了显著的效果。

    Jun, 2023

  • 对话状态跟踪的继续提示调整

    本文提出了一种连续的提示调整参数有效的框架，可避免对旧任务的遗忘并在任务之间实现知识转移，验证实验表明该方法在对话状态跟踪领域中具有有效性和高效性。

    Mar, 2022

  • HyperMask：自适应基于超网络的掩码用于持续学习

    通过 HyperMask 方法，利用受 Lottery Ticket Hypothesis 影响的超网络产生适应新任务的半二值掩码，从而解决了人工神经网络在连续训练多个任务时遇到的灾难性遗忘问题。

    Sep, 2023

  • 混合任务连续学习的子网络发现与软遮罩

    本文提出了一种新的连续学习方法，通过发现为每个任务建立子网络来解决灾难性遗忘，同时引入了软掩模机制来保留先前的知识并实现知识传递，实验结果显示该方法始终优于强基线模型。

    Oct, 2023

  • 任务导向对话系统中的持续学习

    本文提出了一个能够让我们通过时间添加新的领域和功能而不需要付出整个系统重新训练的任务导向对话系统的连续学习基准。我们在四个不同的设置下连续地学习了 37 个领域，包括意图识别、状态跟踪、自然语言生成和端到端。此外，我们实现并比较了多个已有的持续学习基线，并提出了一种简单而有效的基于残余适配器的结构方法。我们的实验证明，所提出的结构方法和简单的回放策略表现相当好，但是它们都比多任务学习基线表现差，后者将所有数据一次性展示出来，这表明对话系统的连续学习是一项具有挑战性的任务。此外，我们还揭示了在参数使用和内存大小方面不同连续学习方法之间的几个权衡，这对任务导向对话系统的设计非常重要。我们还发布了所提出的基准测试以及几个基线，以推动更多的研究方向。

    Dec, 2020

  • 稳定紧凑拣选与自我增长：不遗忘持续学习

    本文提出了一种简单但有效的方法来实现深度学习的连续增量学习，该方法结合了深层模型压缩、关键权重选择和渐进网络扩展的原理，在迭代中实现它们的集成，从而能够实现多种任务的增量学习，避免遗忘并保持模型的紧凑性。在实验中，该方法能够在不遗忘前面任务的情况下，增量学习处理多个任务的深度模型，同时对于单个任务的训练也具有更好的性能表现。

    Oct, 2019

  • 语言模型的持续学习

    本研究提出了一种新的方法，使用一系列未标记的领域语料库来连续培训语言模型，从而改善它们的最终任务绩效。该方法的关键创新点是一种软掩蔽机制，它直接控制语言模型的更新，同时提供了一个新的代理来保留原始 LM 中的通用知识。实证评估证明了所提方法的有效性。

    Feb, 2023

  • 持续学习神经对话管理

    提出了一种基于神经网络框架的分层学习方法，通过监督学习和强化学习相结合，实现了对话管理任务中的有效性以及在高噪声的情况下提高性能。

    Jun, 2016

  • 一项继续学习调查：在分类任务中应对遗忘

    本文研究了基于任务增量分类的持续学习方法，提出了一种新的框架来确定持续学习者的稳定性与可塑性的权衡， 并通过三个基准测试以及综合实验比较了 11 种持续学习方法和 4 种基线的方法的强弱和影响。

    Sep, 2019

  • 稀疏提示下元策略网络中的持续任务分配

    本文提出了 Continual Task Allocation via Sparse Prompting (CoTASP) 方法，通过在训练过程中学习过度完备的词典生成稀疏掩模，并通过不断优化互相调整以更新元策略，从而解决了强化学习中新任务训练效率低问题，最终在各项任务和泛化性上表现优异。

    May, 2023