在连续命名实体识别（CNER）领域中，我们引入了一种精确平衡旧实体与新实体之间知识保留的池化特征蒸馏损失方法，以更有效地缓解灾难性遗忘问题，并利用基于置信度的伪标记方法解决非实体类型的语义转移问题。在此基础上，我们还提出了一种自适应重新加权类型平衡学习策略来处理类型分布不均衡问题。通过对十个 CNER 设置及三个不同数据集进行全面实验，结果显示我们的方法在 Micro F1 和 Macro F1 得分上相较于当前最先进的方法平均提高了 6.3% 和 8.0%。

Oct, 2023

本文提出了一个因果框架，解释了类增量学习中的灾难性遗忘的原因，并提出了一种新的蒸馏方法，该方法与现有的抗遗忘技术（例如数据回放和特征 / 标签蒸馏）正交。在这个框架下，我们发现特征 / 标签蒸馏虽然存储效率高，但其因果效应与端到端特征学习的优点不相符，而数据回放则能够保留此效应，因此我们建议使用基于 Colliding Effect 的因果蒸馏方法，在不损失回放存储的情况下，实现类增量学习中的遗忘效应的缓解。实验结果表明该方法能够显著提高目前各类增量学习方法的性能。

Mar, 2021

本文提出一种基于因果干预的少样本 NER 方法，通过背门调整和增量学习干预原型，避免了少样本选择偏差所带来的虚假相关性问题，并在不同基准测试中取得了新的最佳表现。

May, 2023

本论文提出了一种名为 SpanKL1 的简单而有效的基于 Span 的模型，采用知识蒸馏和多标签预测技术，旨在解决命名实体识别领域中实体类型不断增加的问题，并在 OntoNotes 和 Few-NERD 等数据集上进行实验，结果表明 SpanKL 显著优于先前的方法，并显示出高实用价值。

Feb, 2023

本研究探索了类增量 NER 中的隐藏实体问题，并提出了一种基于重演的表示学习方法，既可以适当地学习旧实体类的 “O” 类，也可以学习新实体类的 “O” 类，通过实验验证了提出方法在多类增量 NER 上的有效性。

Oct, 2022

提出了一种新模型 MUCO，能够自动识别其他类别中的不同未定义类别，以改进少样本命名实体识别，并检验了该模型在四个 NER 基准测试中取得了比五种最先进模型更好的性能。

Jun, 2021

持续学习在避免旧任务遗忘的同时，旨在不断学习新知识。本研究侧重于类增量设置下的文本分类，在探索持续学习的表示学习过程中，发现信息瓶颈的压缩效应导致了对类似类别的混淆。为了使模型学习到更充足的表示，我们提出了一种新颖的基于重放的持续文本分类方法 InfoCL。该方法利用快慢对比学习和当前 - 过去对比学习来进行互信息最大化，更好地恢复之前学到的表示。另外，InfoCL 还采用了对抗性记忆增强策略来缓解重放的过拟合问题。实验结果表明，InfoCL 有效地减轻了遗忘问题，并在三个文本分类任务上达到了最先进的性能。代码公开可用于此 https URL。

Oct, 2023

该论文提出了一种新的 Continual Learning 算法，结合多样化和不相关的输入流，以解决当前任务，从而有助于学习下一个任务，并在常见的图像分类基准测试中表现出超过现有最先进模型的表现。

Jun, 2022

该研究论文探讨了在遥感监督（DS-NER）框架下的命名实体识别（NER），其中主要挑战在于由于伪阳性、伪阴性和正类型错误等固有错误导致标签质量受损。我们批判性评估了当前 DS-NER 方法的效力，使用了一个名为 QTL 的真实基准数据集，揭示其性能常常达不到预期。为了解决标签噪声的普遍问题，我们引入了一种简单而有效的方法，基于课程的正负无标记学习（CuPUL），该方法在训练过程中通过从 “简单” 且更干净的样本开始，增强模型对噪声样本的鲁棒性。我们的实证结果突出了 CuPUL 减少噪声标签影响、超越现有方法的能力。

Feb, 2024

本文提出了一种基于 Transformer 网络的多头模型，使用类特定的分类器来解决类不断增加的连续学习任务，同时支持不同类别数据的 Out-of-Distribution 检测，实验结果优于现有技术。

Aug, 2022