Feb, 2024

通过组合特征对齐增强组合泛化能力

PDF
TL;DR在实际的机器学习模型应用中，数据分布的变化常常导致训练数据和测试数据之间存在差异。在常见的多领域多类别设置中，随着类别和领域数量的增加，无法为每个领域 - 类别组合收集足够的训练数据。为了解决这一挑战，我们提出了一个名为 CG-Bench 的测试套件，该测试套件基于现有的真实图像数据集，发现了一种名为 Compositional Feature Alignment (CFA) 的两阶段模型微调技术，它可以促进预训练模型的组合特征学习。实验结果表明，CFA 在组合泛化方面优于常见的微调技术，证实了 CFA 在组合特征学习中的有效性。
machine learning modelsdata distribution shiftscompositional generalizationcg-benchcompositional feature alignment
发现论文，激发创造
  • CAFE：通过特征对齐学习压缩数据集

    本文提出了一种名为 CAFE 的新方法来压缩数据集并 align 真实数据和合成数据的特征，以防止梯度偏差。我们的方案通过动态双级优化和适应性参数更新以防止过度拟合，并通过广泛实验验证了其有效性。

    Mar, 2022

  • 对比 Syn-to-Real 泛化

    本文提出了一种基于对比的从合成到真实的泛化（Contrastive Synthetic-to-Real Generalization, CSG）框架，该框架利用预训练的 ImageNet 知识防止过度拟合合成域，同时提高特征嵌入的多样性以改善泛化性能，还使用注意力池化（A-pool）来进一步提高泛化性能。研究结果表明，此方法在各种合成训练任务中展示了最新的零 - shot 域泛化性能。

    Apr, 2021

  • 跨领域一致特征扰动

    通过在潜在空间中生成被干扰的特征并对模型预测进行领域转移的正则化来模拟领域转移的在线一阶交叉对比特征扰动（Cross Contrasting Feature Perturbation）框架引入的模块与语义一致性约束设计和学习特征扰动的，无需生成模型或领域标签的方法能够在分布不同的场景中缓解领域转移问题。

    Jul, 2023

  • 特征风格化与领域感知对比学习用于领域泛化

    提出了一种基于特征统计进行特征风格化的领域泛化框架，其中利用领域样式样本对原始特征进行低频成分的风格化处理，并利用领域感知的对比损失增加类别可区分性，得到在 PACS 和 Office-Home 两个基准测试上超越现有最先进方法的实验结果。

    Aug, 2021

  • 语义分割的无监督对比域自适应

    通过对比学习实现特征对齐，提出了一种跨领域适应的标签扩展方法，结果表明，我们的方法在 Cityscapes 数据集上的表现始终优于最先进的方法。

    Apr, 2022

  • FD-Align: 特征辨别对齐用于预训练模型在少样本学习中的微调

    通过细化预训练模型和引入 Feature Discrimination Alignment 方法，本研究能够显著提高 few-shot 学习中的泛化能力，从而在进一步任务中实现性能的优化。

    Oct, 2023

  • MetaDefa: 基于域增强和特征对齐的单域泛化元学习

    基于领域增强和特征对齐的元学习方法被提出，以改善单一领域泛化模型的泛化性能。利用背景替换和视觉破坏技术生成多样和有效的增强领域，设计了基于类激活图和类不可知激活图的多通道特征对齐模块，以提取足够的可迁移知识。在两个公开数据集上的广泛实验表明，MetaDefa 在未知多个目标领域中具有显著的泛化性能优势。

    Nov, 2023

  • 弱监督组合特征聚合在少样本识别中的应用

    本文提出了组合特征聚合（CFA）模块作为深度网络的弱监督正则化方法来增强少样本学习模型的组合性，并且不需要对其进行任何监督训练。经过大量实验验证，该方法在少样本图像分类和行为识别任务中取得了显著的改进。

    Jun, 2019

  • 无偏场景图生成的组合特征增强

    我们提出了一种新颖的组合特征增强（CFA）策略，通过增加三元组特征的多样性来解决现有的偏差问题，该方法在各种场景图生成框架中都能无缝集成，并在不同指标之间取得了最新的最优性能。

    Aug, 2023

  • 通过结构标注提高分类任务中的组合泛化能力

    本文研究了复合推理在分类任务中的应用，并提出结构提示（如句法树和实体链接）对于解决神经模型复合推理问题具有较好的效果。

    Jun, 2021