生物特征识别的持续表征学习

Jun, 2020

Continual Representation Learning for Biometric Identification

Bo Zhao, Shixiang Tang, Dapeng Chen, Hakan Bilen, Rui Zhao

TL;DR本研究旨在提出一种新的持续表示学习方法，使用领域选择和一致性松弛策略，对大量身份执行知识蒸馏，以提高持续学习模型的可扩展性和灵活性，并在生物识别中提供用于多步骤的大规模基准测试。研究表明，比起其他竞争者，本方法获得了更好的结果。

Abstract

With the explosion of digital data in recent years, continuously learning new tasks from a stream of data without forgetting previously acquired knowledge has become increasingly important. In this paper, we propose a new continual learning (CL) setting, namely ``continual representation lear

continual learning representation learning biometric identification knowledge distillation scalability

发现论文，激发创造

RepCL: 持续文本分类有效表示探索

本研究采用基于回放的持续文本分类方法 RepCL，该方法利用对比和生成表示学习目标来捕获更多与类别相关的特征，并引入对抗式回放策略以缓解回放的过拟合问题。实验结果表明，RepCL 能够有效缓解遗忘，并在三个文本分类任务中取得了最先进的性能。

May, 2023

无监督连续学习的表征连续性

该研究提出了一种基于无监督学习方法的连续学习技术，可以在不需要人工标注的数据的情况下设法学习连续任务的特征表示，并通过使用 LUMP 技术来缓解灾难性遗忘问题。

Oct, 2021

持续学习的不变表示学习

本文提出了一种名为 IRCL 的伪排练式学习方法，其中通过将类不变表示与条件生成模型分离并与类特定表示共同使用，以学习顺序任务。该方法证明了在两个著名的连续学习基准上都比基于正则化和基于伪排练的方法更好，并成功地解决了灾难性遗忘问题。

Jan, 2021

使用蒸馏进行连续表示的虚假媒体泛化检测

本论文研究人工智能的连续学习及其在神经网络领域的应用，提出了 Continual Representation using Distillation (CoReD) 方法，以增加数据效率并对抗深度伪造技术进行序列领域适应任务的新深伪和生成对抗网络合成人脸数据集，取得了比当前的基准方法更好的实验结果。

Jul, 2021

在重复的情况下进行连续学习

这篇研究报告总结了 CVPR 2023 年的 CLVision 挑战赛，重点讨论了类增量学习中的数据重复问题，介绍了三个解决方案，实验证明基于模块集成的多版本策略对于利用数据流中的重复性进行持续学习是有效的。该报告强调了通过在数据流中利用重复性来促进创新策略设计的转变潜力。

May, 2024

可持续学习与反向一致特征嵌入的视觉搜索

本文介绍了一种基于 continual learning 方法的视觉搜索模型，它可以不断更新模型以处理增量式的图库集，同时不会影响模型的特征空间并且可以适用于新的图像类别。

May, 2022

持续无监督表征学习

本研究提出了一种名为 CURL 的方法，用于解决无监督的连续学习问题，通过学习动态的任务表示，以应对任务标识的缺乏，探索了任务之间的突然变化、平滑过渡和数据乱序等不同情况，并在 MNIST 和 Omniglot 数据集上证明了其强大性能。

Oct, 2019

计算预算下的持续学习：什么是最重要的？

本文研究了当计算资源受限时传统的 Continual Learning 方法的效率，并表明它们对于实际部署来说太过计算密集，推荐使用在存储器上均匀抽样作为最初基线。

Mar, 2023

连续关系抽取的一致表示学习

研究了连续关系抽取中存在的历史信息遗忘问题，提出了一种基于对比学习和知识蒸馏的持续关系表示学习方法，能够有效地避免历史信息遗忘，并在 FewRel 和 TACRED 数据集上进行了大量实验，相比于现有基线算法，提出的方法表现更具鲁棒性。

Mar, 2022

使用预训练模型的现实继续学习方法

我们提出了一个新的连续学习（CL）范式 Realistic Continual Learning（RealCL），其中任务之间的类分布是随机的，不同于结构化设置。同时，我们引入了一个名为 CLARE 的预训练模型解决方案，旨在在保留过去学习的同时整合新知识。通过广泛的实验证明了 CLARE 在各种 RealCL 场景中的有效性和优越性。

Apr, 2024