知识适应:教授如何适应
利用 BERT 预训练语言模型,结合领域适应性方法和知识蒸馏算法,提出了一种简单而有效的无监督领域适应方法,称为对抗适应与蒸馏,在 30 个领域对跨领域情感分类的任务中取得了最先进的性能。
Oct, 2020
基于知识蒸馏,提出了一种新的单阶段方法 “不同领域之间的直接蒸馏”(4Ds),通过可学习的适配器和融合 - 激活机制,实现了从教师网络到学生网络的跨领域知识转移,取得了可靠的学生网络性能并超过了现有方法。
Jan, 2024
本文综述了最新的单源深度无监督域适应方法,主要集中在视觉任务中,并讨论了未来研究的新视角。首先介绍了不同领域适应策略的定义和现有基准数据集的描述,然后总结和比较了不同类别的单源无监督域适应方法,包括基于差异性的方法,对抗式鉴别方法,对抗式生成方法和自监督方法,并探讨了未来的研究方向、挑战和可能的解决方案。
Sep, 2020
本文提出了一种新的无监督多目标域自适应方法,通过多教师知识蒸馏来训练 CNN,使其可以在多个目标领域上广义化。该方法通过逐步蒸馏目标域知识到一个共同的学生无直接学习域适应特征,同时保留每个目标(教师)的特异性以适应学生,通过在多项具有挑战性的 UDA 基准测试上的实证结果表明,我们提出的模型可以在多个目标域上提供较高水平的准确性。
Jul, 2020
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的 Decision-boundary 迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和 Wi-Fi 识别领域自适应基准的最新性能。
Feb, 2018
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022
本文提出了一种新的领域适应的表示学习方法,使用神经网络架构从源域的有标签数据和目标域的无标签数据中推断出训练的特征,该方法增加了标准层和一个新的反向梯度层,可以在文本情感分析、图像分类以及人员重新识别等任务中有效实现领域适应。
May, 2015