ACLApr, 2022

面向多领域不平衡数据的领域感知对比知识转移

PDF
TL;DR本文研究了多领域不平衡学习（MIL）的情形，提出了一种名为 DCMI 的领域感知对比知识传递方法来鼓励正向传递相似领域间的共享领域知识并最小化来自不同领域的负向传递。在三个不同的数据集上评估了 DCMI 的性能，展示了不同的 MIL 方案中显著的改进。
multi-domain imbalanced learningtransfer learningdomain-aware contrastive knowledge transferpositive transfernegative transfer
发现论文，激发创造
  • 具有困难感知的不平衡数据序列元学习

    针对实际情况中任务分布动态变化和不均衡，本研究提出了一种基于核方法的领域变化检测和难度感知内存管理机制。同时，还引入了一种高效的自适应任务采样方法，最终在新的基准测试中得到了非常好的效果。

    Sep, 2021

  • 不充足注释下的多域学习

    本文介绍了一种名为多领域对比学习（MDCL）的新方法，以减轻不充分注释对传统 MDL 方法的影响，该方法旨在捕获来自标记和未标记数据的语义和结构信息，通过在不同领域的共享和私有空间中分别对其进行处理。实验结果表明，MDCL 相对于各种共享 - 私有模型（SP models）都带来了明显的改进，而且还能在多领域主动学习中得到进一步应用，以获得更好的总体性能。

    May, 2023

  • 多域长尾识别、不平衡域泛化及其它

    研究多领域长尾识别（MDLT）的任务，该任务学习来自多领域的不平衡数据，同时处理标签不平衡、领域漂移和不同领域间标签分布的差异，并推广到所有领域 - 类别对。提出了 BoDA 这一理论上基础的学习策略，它跟踪 MDLT 中的传递性统计的上限，并确保在不平衡的领域 - 类别分布之间平衡对齐和校准。在五个 MDLT 基准测试中，与涵盖不同学习策略的二十种算法进行了比较，实验结果显示 BoDA 具有更好的性能表现。此外，BoDA 在领域泛化基准测试中建立了新的最优效果，凸显跨领域的数据不平衡问题的重要性，这对于提高对未知领域的泛化能力可能至关重要。

    Mar, 2022

  • 跨领域情感分析的纯对比学习

    本文探索对跨域情感分析任务采用对比学习方法，提出了一种修改后的对比目标，并在同一类的句子表示之间拉近，不同类的之间推远的方法，实验证明我们的模型在跨域和多域情感分析任务中都取得了最先进的性能，同时，可视化结果展示了知识转移的有效性，并通过对抗测试验证了模型的鲁棒性。

    Aug, 2022

  • 域对抗性用于域自适应目标检测

    提出了域对抗 (Domain Contrast, DC)，一种受对比学习启发的简单而有效的方法，可用于训练域自适应检测器。DC 通过交叉域对比损失实现，保证了检测器的可转移性，并自然地缓解了目标域中的类别不平衡问题。广泛实验表明，DC 显著提高了基线和最先进技术，同时展示了大域分歧的巨大潜力。

    Jun, 2020

  • 多领域对抗学习

    本文介绍了一种名为 MuLANN 的对抗性的多域学习方法，用于利用多个具有重叠但不同类集的数据集，在半监督设置中进行多域学习和域自适应，并通过实验验证其有效性，提高了在两个标准图像基准测试和一个新的生物图像数据集 Cell 上的表现。该方法的贡献包括：利用 H 散度得到的 MDL 中平均和最差域风险的界限，适用于半监督的多域学习和域自适应的新损失。

    Mar, 2019

  • 多领域学习中的迁移和干扰分离

    本研究研究了多域学习中的迁移学习，提出了新的度量标准，建立了实验协议，并研究了网络容量、任务分组和动态损失加权在减少干扰和促进知识迁移方面的作用。

    Jul, 2021

  • 多领域判别分析实现领域泛化

    本文提出了一种多领域判别分析方法 (MDA) 来处理分类任务中的域泛化问题，通过学习一个域不变的特征变换，旨在实现每个类别之间领域的最小差异、类别之间最大可分性以及整体最大紧凑性，在学习理论分析中提供了过度风险和泛化误差的限制，通过对合成数据集和真实基准数据集的全面实验，证明了 MDA 的有效性。

    Jul, 2019

  • 在多领域数据集上训练的有监督对比学习所学到的表示的可迁移性

    使用多领域数据集的超级对比学习模型相比使用交叉熵模型，平均在 7 个下游数据集上表现更好，结果显示其学习到的表示更具鲁棒性且可跨领域转移。

    Sep, 2023

  • 数据驱动的知识融合用于深度多实例学习

    本文提出了基于数据驱动知识融合的深度多实例学习算法（DKMIL），该算法采用新的模型数据接口，通过知识融合模块从样本中提取有价值的信息以辅助模型训练，并使用两级注意力模块逐步学习样本的浅层和深层特征以实现更有效的分类。在对 6 个类别的 38 个数据集进行实验的同时证明了知识融合模块的可扩展性和所提出体系结构的有效性。

    Apr, 2023