分类的成对差异学习

Jun, 2024

Pairwise Difference Learning for Classification

Mohamed Karim Belaid, Maximilian Rabus, Eyke Hüllermeier

TL;DR该论文扩展了对比差异学习 (PDL) 在分类任务中的应用，提出了一种元学习技术，通过解决原始训练数据的成对版本上的适当定义的（二元）分类问题，来诱导 PDL 分类器。在大规模的实证研究中，分析了 PDL 分类器的性能，并发现其在预测性能方面优于现有的方法。最后，提供了一个易于使用和公开可用的 PDL 的 Python 包实现。

Abstract

pairwise difference learning (PDL) has recently been introduced as a new meta-learning technique for regression. Instead of learning a mapping from instances to outcomes in the standard way, the key idea is to le

pairwise difference learning meta-learning classification pdl classifier prediction performance

发现论文，激发创造

成对相似度学习是简洁的

在本文中，我们研究了一个广泛且重要的学习问题 —— 成对相似度学习（PSL）。我们提出了一种简单但令人惊讶的无代理方法 SimPLE，该方法在开集识别中能够很好地推广，应用于开集人脸识别、图像检索和说话人验证三个挑战性的 PSL 任务上，通过大规模基准实验结果表明我们的方法明显优于现有的最先进方法。

Oct, 2023

基于自监督的原始 - 对偶学习用于约束优化

本文研究了如何训练机器学习模型直接逼近受约束优化问题的最优解，提出了一种新的自监督训练方法 Primal-Dual Learning（PDL），该方法不需要预先解决实例集合或优化程序来进行训练和推理，而是同时训练原始神经网络和对偶神经网络来模仿增广 Lagrangian 方法的轨迹，实验证明 PDL 在非线性优化基准测试中表现出极小的约束违规和微小的最优性差距，与 ALM 优化非常接近，并且在最优性差距、约束违规和训练时间方面表现出更好或相似的性能。

Aug, 2022

置信度差异的二元分类

使用软标签进行学习在模型泛化、校准和鲁棒性方面表现更好。本文提出了一种称为置信度差异分类的弱监督二分类问题，并提出了一种风险一致的方法来解决该问题。通过大量的实验证明了该方法在利用置信度差异的监督信息方面的有效性。

Oct, 2023

面向异构数据集的个性化字典学习

提出个人化词典学习问题，使用全局和局部词典模型，通过 PerMA 算法处理不同数据集，提取特征。该方法具有高效、可靠性强等优势，在不同学习任务中具有广泛应用。

May, 2023

自适应密度判别度量学习

本文针对之前的距离度量学习算法中存在的一些问题，提出了一种通过分布模型在表示空间中自适应评估相似性，并通过惩罚类别分布重叠实现局部判别的新方法，在多项任务上取得了最新的分类结果，并提高了所学表示的属性集中度和层次恢复能力。

Nov, 2015

可微的无偏在线学习排名

Pairwise Differentiable Gradient Descent (PDGD) is an efficient and unbiased Online Learning to Rank approach that allows for effective optimization of non-linear models based on user interactions and preferences, providing a better user experience than previously possible.

Sep, 2018

畸变 - 解缠对比学习

该研究提出了一种名为 DDCL 的新型 POCL 框架和 DDL 损失函数，可以显式地分离和利用模型和特征流中的畸变变量表示（DVR），从而提高了整体表示利用效率、鲁棒性和表示能力。通过在多个基准数据集上进行实验，表明我们的框架优于 Barlow Twins 和 Simsiam 在收敛性、表示质量和鲁棒性方面。

Mar, 2023

PDL：使用渐进丢弃层对多实例学习进行规范化

本研究提出了一种新的正则化方法，即渐进性丢失层（PDL），旨在解决弱监督学习中过拟合问题，并增强多实例学习模型在发现复杂和有影响力的特征表示方面的能力。通过在多个多实例学习方法中集成 PDL，我们在各种基准数据集上进行了广泛的评估，结果显示 PDL 的整合不仅提高了分类性能，还增强了模型进行弱监督特征定位的潜力。

Aug, 2023

基于知识蒸馏的本地差分隐私分布式深度学习

本文提出了一种隐私保护的分布式深度学习框架 LDP-DL, 通过使用本地差分隐私和知识蒸馏进行模型训练。实验结果表明，在三个常用深度学习数据集 (CIFAR10, MNIST, FashionMNIST) 上的实验中，LDP-DL 在隐私预算和模型准确性方面均优于其他竞争对手。

Feb, 2022

正标 - 未标分类的元学习

我们提出了一种元学习方法，用于正负样本未标记分类，从而提高仅使用 PU 数据获得的二元分类器在未知目标任务中的性能。该方法使用包含正向、负向和未标记数据的相关任务，在使用 PU 数据调整模型之后，最小化了测试分类风险。通过使用神经网络将每个实例嵌入到任务特定空间中，我们以密度比率估计 PU 密度的形式估计了贝叶斯最优分类器，其解可作为闭式解求得。经验证明，该方法在一个合成数据集和三个真实数据集上表现优于现有方法。

Jun, 2024