feature suppression | BriefGPT

关键词feature suppression

搜索结果 - 4

对比学习中避免特征抑制：学习以前没有学到的内容
以自监督对比学习为基础，提出了一种新颖的多阶段对比学习框架 (MCL)，旨在解决特征抑制问题，从而学习到更全面的表示，并能够提升各种下游任务的性能。
PDF5 months ago
ICML对比学习中学习了哪些特征？简单偏置在类崩溃和特征抑制中的作用
本文提供了第一个统一的理论框架，旨在确定对比学习 (CL) 学习了哪些特征。我们的分析表明，(随机) 梯度下降向查找更简单解决方案的偏见是导致子类表示崩溃和抑制更难的类相关特征的关键因素。此外，我们提出了增加嵌入维度和提高数据增强质量作为两
PDFa year ago
对比损失的有趣特性
本论文详细分析了对比学习的三个问题：扩展标准对比损失、局部特征学习和竞争特征抑制现象，并指出了此类方法可能存在的数据增强限制和学习饱和等问题。
PDF4 years ago
WWW不是所有的特征都是相等的：发现维护预测隐私所需的基本特征
本研究提出了 Cloak 框架，其通过梯度优化方法在输入特征空间中发现功能性预测模型所需的子集，并使用保证效用的常量值抑制其余特征，从而减少机器学习服务中数据泄露和隐私问题。实验结果表明，Cloak 可将输入特征与筛选后的表征之间的互信息降
PDF4 years ago