Feb, 2022

标签噪声过渡矩阵的可识别性

PDF
TL;DR本文探讨了学习嘈杂标签所需的噪声转移矩阵的可辨识性，并通过 Kruskal 的可辨识性结果表明，对于一般情况下的实例级别的问题，识别噪声转移矩阵需要多个嘈杂标签的支持，此外，我们还展示了标签噪声转移的实例依赖性与统一的认识之间的联系，并提供了实证证据。
noise transition matrixlearning with noisy labelsidentifiabilityinstance-dependent noise transitiondisentangled features
发现论文，激发创造
  • 多标签噪声转移矩阵估计与标签相关性：理论与算法

    本文研究了噪声多标签学习中类相关的转换矩阵的可辨识性，并提出了一种新的估计器，该估计器利用标签相关性而无需锚点或精确拟合噪声类后验概率。通过信息提取纯净标签相关性，并利用这些事件概率暗示的标签相关性的差异，证明了转换矩阵的可辨识性，并通过解决双线性分解问题获得转换矩阵。理论上，我们建立了多标签转换矩阵估计器的估计误差界限，并推导出我们的统计一致算法的泛化误差界限。实验上，我们验证了我们的估计器在估计多标签噪声转换矩阵方面的有效性，从而导致了出色的分类性能。

    Sep, 2023

  • 重新思考标签价值：针对实例相关的标签噪声学习

    本文介绍了基于结构因果模型的深度生成模型算法，解决了大规模数据集中存在的标签噪声问题。该算法有效利用了噪声标签的监督信息，并在合成和实际的噪声标签数据集上表现优异。

    May, 2023

  • 可证明的端到端标签噪声学习无需锚点

    本文提出了一种不依赖基准点（anchor points）的端到端框架，通过同时优化两个目标：噪声标签与神经网络预测概率之间的交叉熵损失和转移矩阵列构成的单纯形的体积，识别转移矩阵和提高统计一致性。在基准数据集上的实验结果证明了方法的有效性和鲁棒性。

    Feb, 2021

  • 流形正则化过渡矩阵估计下的实例相关标签噪声学习

    研究了标签噪声学习问题中的转移矩阵估计，基于人类任务标注时更加倾向于将外观相似的实例标注为同一类别的心理学和生理学证据，提出了 T（x）几何形状的假设，并利用流形嵌入技术来有效地减少了其自由度并使其在实践中稳定可估计。实验结果表明，该方法在处理具有挑战性 IDN 数据时优于现有方法。

    Jun, 2022

  • 图像以外：估计低质量特征任务的标签噪声转移矩阵

    本文提出了一种信息理论方法来降低低质量特征的影响，用于识别和估计标签噪声转移矩阵，从而改进了噪声转移矩阵的估计，作者在多个任务下验证了该方法的必要性和有效性。

    Feb, 2022

  • 基于零件的标签噪声：迈向基于实例的标签噪声

    本文针对实例相关标签噪声的学习难题，基于人类认知的分解思想，采用基于部分的标签噪声来近似实例相关标签噪声，通过基于先验的锚点学习过程，结合各部分转移矩阵进行概率近似，得到超越现有方法的实验结果。

    Jun, 2020

  • 使用深层神经网络估计基于实例的贝叶斯标签转移矩阵

    本文探讨了直接对贝叶斯最优标签和噪声标签之间的转化进行建模的方法，并利用神经网络进行参数估计，从而提高了在标签噪声学习任务中的泛化能力和分类性能。

    May, 2021

  • 带混合闭合集和开放集噪声标签的扩展 T 学习

    该研究提出了一种新的转移矩阵（cluster-dependent extended transition matrix）来更好地建模于混合 closed-set 和 open-set 的误差噪声（mixed label noise），并通过偏差不大的方法（extended T-estimator）来估计这个矩阵，实验证明这种方法在噪声建模方面表现更优于现有的方法。

    Dec, 2020

  • 基于注释者和样本相关的转移矩阵迁移学习

    该研究提出了一种使用深度神经网络建模实例和注释者依赖的标签噪声转移矩阵的方法，通过知识转移和校准来缓解挑战，确认了其在合成和真实世界的众包数据上的卓越性能。

    Jun, 2023

  • 在噪声标签学习中使用聚类性能作为替代锚定点的方案

    本文提出了一种基于可簇性条件的有效估计过程，使用邻域表示中的三阶共识即可准确估计唯一的转移矩阵，并证明了相比于使用锚点的方法，我们的方法使用的实例更多，具有更好的采样复杂度。

    Feb, 2021