Oct, 2023

广义逻辑调整：在基础模型中消除标签偏差以校准微调模型

PDF
TL;DR该研究系统地检查了基础模型中的偏见，并展示了我们提出的广义对数调整（GLA）方法的有效性。GLA 在解决预训练中的基本缺陷方面取得了重大改进，对于各种任务都取得了显著的提高。
foundation modelszero-shot transferfine-tuningensemblingbias estimation
发现论文，激发创造
  • 梯度感知的对数调整损失函数用于长尾分类器

    我们提出了梯度感知的逻辑调整（GALA）损失和预测再平衡策略来解决长尾数据问题，并在多个数据集上实验证明了其有效性。

    Mar, 2024

  • 预训练视觉 - 语言模型的高效和长尾泛化

    针对使 CLIP 适应现实世界的挑战，我们提出了一种名为 Candle 的新框架，通过引入新的损失函数、跨模态注意力和虚拟原型来实现高效、长尾泛化，该方法在 11 个不同数据集上展示出了卓越的性能，并大大减少了训练时间。

    Jun, 2024

  • 视觉语言模型的领域泛化鲁棒微调

    在具有有限训练数据并在分布转变下无法有效推广的情况下，传统的迁移学习方法效果有限。然而，最近的基础模型在分布转变下表现出了令人印象深刻的零样本推理能力和鲁棒性。为了解决这些问题，在此提出了一种适用于流行的视觉 - 语言基础模型 CLIP 的小样本微调方法，并对具有现实分布转变的具有挑战性的基准数据集进行了评估。实验证明，在训练数据供应的各个级别上，与只有视觉的模型相比，少样本 CLIP 微调在内部分布准确性和外部分布准确性方面表现更好，这为在使用真实世界数据的小样本学习应用中采用基础模型提供了强有力的动机。

    Nov, 2023

  • 大型视觉语言模型的少样本自适应研究

    通过引入适应真实场景需求的新方法，我们综合评估了一个广泛的数据集和场景，发现其在实践中始终优于现有技术，同时作为更高效的替代方案。

    Dec, 2023

  • 通过逻辑调整实现长尾学习

    本文介绍了两种简单的技术对抗现实场景中数据标签分布的不平衡性，包括采用标签频率进行 logistic 校准 以及在训练过程中强制实施其中之一或两种技术能够鼓励罕见标签与支配标签之间拥有一个相对较大的罕见标签较大的标签在一些学习情况中具有更好的表现。

    Jul, 2020

  • AMU-Tuning：基于 CLIP 的有效逻辑偏置用于少样本学习

    近期，预训练的视觉 - 语言模型（如 CLIP）在少样本学习方面表现出巨大潜力并吸引了很多研究兴趣。本文通过分析 logit 偏差，从统一的角度分析了基于 CLIP 的少样本学习方法，提出了一种新的 AMU-Tuning 方法来学习有效的 logit 偏差，展现出了 CLIP-based 少样本学习的最先进性能。

    Apr, 2024

  • 消除偏见：对基础模型进行半监督学习的微调

    通过在预训练基础模型中应用平衡的边界 Softmax 和解耦式标签平滑，FineSSL 提供了一种新的半监督学习方法，显著改善了现有方法的性能问题，并在多个基准数据集上达到了新的最先进水平，降低了训练成本超过六倍，可以无缝集成各种微调和现代半监督学习算法。

    May, 2024

  • 无需标签的 Logit 调整

    本文提出了一种利用生成模型在 Generalized Zero-Shot Learning (GZSL) 任务中识别新类别的技术，使用变分贝叶斯推理方法推导评估指标，借助 logit adjustment 融合生成的伪类别信息到分类器中，进一步提高了在 GZSL 任务的性能。

    Apr, 2022

  • 特化与泛化：对基础模型微调中灾难性遗忘的实证研究

    为了解决 fine-tuning 中特性和广泛适用性之间的矛盾，我们研究了来自持续学习的多种规范化方法和来自越界通用化的权重平均方法，发现持续学习和 Wise-FT 方法可以有效减轻广泛适用性的损失，其中 Wise-FT 在平衡特性和广泛适用性方面表现最好。

    Sep, 2023

  • 不平衡学习中加权重和对数调整的统一概化分析

    通过对失衡学习的概括分析和数据依赖性收缩等技术，建立了一个精细的不平衡学习泛化界限，进一步揭示了重新加权和逻辑调整的原理，并开发了一个基于理论洞察的原则学习算法。

    Oct, 2023