infonce | BriefGPT - AI 论文速递

关键词infonce

搜索结果 - 6

使用软目标进行条件模型的噪声对比估计
通过提出一个新的损失函数，本文解决了 InfoNCE 无法与软目标结合使用的限制，并在常见基准测试中表现优异，包括 ImageNet。
PDF2 months ago
$f$-MICL：理解和推广基于 InfoNCE 的对比学习
该研究论文通过将 KL-based mutual information 推广为 $f$-Mutual Information in Contrastive Learning ($f$-MICL)，使用 $f$-divergences，并设
PDF5 months ago
EMNLP对代码搜索中的负对进行重新思考
在这篇论文中，我们通过提出一种简单但有效的 Soft-InfoNCE 损失函数，通过将权重项插入 InfoNCE 来解决负样本的问题。我们对负样本的权重进行了三种方法的估计，并展示了原始的 InfoNCE 损失是 Soft-InfoNCE
PDF9 months ago
对比学习中互信息的严谨分析
对比学习通过互信息分析的深入研究，引入了三种新方法和一些相关定理，以增强互信息分析的严谨性，并通过重新评估对比学习分析的三个实例，展示了它们在加深理解或纠正误解方面的能力。
PDF10 months ago
电子商务中带混合表征的通用用户和商品嵌入模型 (GUIM)
提出了一种 GUIM 模型，用于在混合表示的基础上构建通用的用户和产品项目嵌入，并利用对比学习技术 InfoNCE 避免运算量过大，提高表示的质量。同时，也提出了一组代表性的下游任务来评估该模型学习到的用户和 / 或项目嵌入的质量。
PDF2 years ago
核最大化依赖下的自主学习
本研究从统计相关性的角度探讨自我监督学习方法，提出了一种基于 Hilbert-Schmidt 独立性准则（SSL-HSIC）的自我监督学习方法，该方法最大化与图像表示转换和图像身份的相关性，并将那些表示的核化方差最小化。实验表明，该方法在
PDF3 years ago