ICLRDec, 2014

通过 $(ε, γ, τ)$- 优良相似函数的算法鲁棒性学习

PDF
TL;DR本文介绍了一种新的算法鲁棒性框架，在此基础上为相似函数的分类器提供了新的泛化界。
metricmachine learningsimilarity functionlinear classifiergeneralization bound
发现论文，激发创造
  • 具有泛化保证的监督度量学习

    本篇论文提出一种新的核函数以及一种新的编辑相似性模型，可以更好地优化距离和相似度函数，提高 k 近邻算法的性能，并在学习相似性时考虑到泛化能力与算法的稳定性， 解决了当前度量学习方法的局限性，为特征向量和结构化对象（如字符串或树）的度量学习提供了新方法。

    Jul, 2013

  • 度量学习的鲁棒性和泛化性

    本文介绍了一种算法鲁棒性的概念来推导度量学习的泛化界限，并且证明了弱稳健性是度量学习算法泛化的必要且充分条件，从而扩展了现有度量学习算法的泛化结果。

    Sep, 2012

  • 度量学习和相似度学习的泛化误差界

    本文利用 U 统计和 Rademacher 复杂性分析方法，针对度量学习和相似度学习，推导出了一种新的泛化边界方法，证明了 L1 范数正则化的稀疏度量学习和相似度学习可能比 Frobenius 范数正则化的模型具有更好的边界效果。

    Jul, 2012

  • 稀疏线性分类的可证明准确性相似度学习

    本文介绍一种基于非半正定线性相似性的学习算法，用于分类，该算法能够通过最优化距离和相似度函数来在非线性特征空间中学习，该方法得到应用后，在各种数据集上比起现有方法具有更好的效果，而且速度快、防止过拟合和产生非常稀疏的分类器。

    Jun, 2012

  • 限制计算意识的公平性

    在 Dwork 等人的框架中，我们研究了公平分类问题，提出了一种新的公平概念 (metric multifairness)。该概念是基于相似度度量和样本的比较集合，并且可以用有限次查询任意度量的方式来实现。

    Mar, 2018

  • 深度 ReLU 网络的度量学习和相似性学习的泛化分析

    我们通过利用真实度量（目标函数）的特定结构，构建了一个近似真实度量的结构化深层 ReLU 神经网络，从而研究了度量和相似性学习的泛化性能，推导了度量和相似性学习问题的过度泛化误差界限，并通过仔细估计逼近误差和估计误差，得出了一个最佳的过度风险率，这是首次的度量和相似性学习的过度泛化错误分析，此外，我们还研究了具有一般损失的度量和相似性学习的真实度量的属性。

    May, 2024

  • 点对点 ROC 曲线优化的监督相似性学习概率理论

    该论文从交叉匹配角度分析了相似性学习，提出了一种基于 ROC 优化的点级优化标准，通过一种概率框架对此进行了深入研究，给出了基于 U - 统计的约束优化表达式，推导出相应的普适性学习速率以及在数据分布噪声假设下更快速的学习速率，同时考虑了采样近似近似的效果，同时通过量化实验得到了与理论相称的实验结果。

    Jul, 2018

  • 鲁棒性和泛化性

    基于稳健性的学习算法的普适性界限推导及其稳健性被证明是学习算法发挥作用的基本属性。

    May, 2010

  • 自适应度量学习的研究

    本文提出了一种新的自适应度量学习框架，其通过基于 ANN 的度量学习来自适应地学习模型复杂度，并且通过自适应约束的流来进行学习，并通过 Adaptive-Bound Triplet Loss（ABTL）利用输入的约束，通过 Adaptive Hedge 更新（AHU）方法在线更新模型参数，我们在真实世界的图像分类，面部验证和图像检索等各种应用中验证了我们框架的有效性和功效。

    Apr, 2021

  • 几乎度量一致的公平学习

    研究介绍了关于个体公平性度量的概念，发现这种方法并不适用于机器学习的训练集以及潜在的人群，所以提出了一种相对放宽的类似度公平近似指标方法，同时实现了最佳的准确率作为 PACF 学习的基础。

    Mar, 2018