ACLMar, 2022

ConTinTin：基于任务指令的连续学习

PDF
TL;DR本研究提出了一种新的学习范式 ConTinTin (Continual Learning from Task Instructions)，通过学习一系列新任务，每个任务都有一条文本指令，要求系统生成预期输出并将前面任务中获取的知识转移到后续任务中，同时保持甚至提高先前任务的性能。在 60 个由文本指令装备的任务流中，本文方法 InstructionSpeak 具有学习负面输出和重新访问先前任务指令的两个策略，可充分利用任务指令提高前向和后向传递效果。
machine learningnlpcontinual learningtask instructionknowledge transfer
发现论文，激发创造
  • Prompt All You Need？并不是。指令学习的全面和更广泛的视角

    此篇综述分析了自然语言处理中基于任务指导的学习，包括任务指导的含义、类型、建模方法、影响因素、表现和挑战。此外，该文是第一次关于文本指导的全面综述。

    Mar, 2023

  • 迈向稳健高效的持续语言学习

    本文提出了一种针对任务序列的基准测试，旨在从持续学习和迁移学习的角度探讨如何快速适应新任务和模型微调策略。同时，提出了一种简单而有效的学习器，通过选择性策略初始化新模型并从过去的任务检查点中获得最大利用信息的能力。

    Jul, 2023

  • 精细调整的语言模型是持续学习者

    通过自我监督预训练不断学习的大型语言模型，可以在多个数据集上持续学习并保持先前任务的良好性能，同时展示新的组合方式。

    May, 2022

  • 从任务说明中学习的鲁棒性

    本研究探讨了新任务指令被恶意篡改、改写或来自不同书面表达程度时，基于预训练语言模型的监督系统的稳健性。

    Dec, 2022

  • 神经网络中的持续学习

    通过研究任务增量设置和在线连续设置，本文提出了一些方法以解决神经网络的严重遗忘问题，并在不同的基准测试和学习序列上进行了评估，显示了连续学习技术现在的发展和应用面临的挑战。

    Oct, 2019

  • 强化连续学习

    本论文提出了一种称之为强化连续学习的方法，该方法通过巧妙设计的强化学习策略为每个任务搜索最佳神经架构，不仅能够在防止灾难性遗忘方面有很好的性能，还能够适应新任务。在 MNIST 和 CIFAR-100 数据集的连续分类任务实验中，该方法优于现有的深度网络连续学习替代方案。

    May, 2018

  • 自监督任务推断的连续机器人学习

    我们提出了一种自我监督任务推理方法，通过观察到的未标记演示的运动和效果部分的自组织以及联合动作 - 意图嵌入的自组织学习，学习行动和意图嵌入，并构建了一个行为匹配的自我监督学习目标来训练一个新型的任务推理网络，该网络将未标记演示映射到其最近的行为嵌入作为任务表示，所建立的多任务策略通过强化学习进行训练，以优化任务的性能。我们的方法在固定集合和持续多任务学习设置下使用一个人形机器人进行评估，并与不同的多任务学习基线进行比较。结果表明，我们的方法在持续学习设置下性能优于其他基线，尤其在具有挑战性的情况下，并且能够从不完整的演示中推断出任务。在单次任务泛化实验中，我们的方法还显示出对未见任务的推理能力。

    Sep, 2023

  • 一项继续学习调查：在分类任务中应对遗忘

    本文研究了基于任务增量分类的持续学习方法，提出了一种新的框架来确定持续学习者的稳定性与可塑性的权衡， 并通过三个基准测试以及综合实验比较了 11 种持续学习方法和 4 种基线的方法的强弱和影响。

    Sep, 2019

  • InsCL：一种数据高效的连续学习范式，用于对大型语言模型进行微调并提供指导

    在本研究中，我们提出了一种称为基于指令的连续学习（InsCL）的新范例，通过使用 Wassertein 距离计算任务相似性并基于此动态地回放先前的数据，实现了基于任务相似性的回放策略，同时引入了指令信息度量（InsInfo）来量化指令的复杂性和多样性，并根据 InsInfo 指导回放过程更倾向于高质量的数据。我们在 16 个不同训练顺序的任务上进行了广泛的实验，观察到 InsCL 持续性能改进。当所有任务都训练完毕时，与随机回放相比，InsCL 实现了 3.0 相对增益，与无回放相比，实现了 27.96 相对增益。

    Mar, 2024

  • 无任务持续学习

    探究如何将连续学习转变成在线学习的系统，可用于自我监督学习和机器人避免冲突，该系统采用 “内存感知神经元” 的方法更新关键性权重。

    Dec, 2018