噪声标签的深度 k-NN
该研究介绍了一种利用特征空间中训练样例的相似性,鼓励每个样例预测与其最近邻居相似的学习方法,用于从带有噪声标签的数据中学习,并且在多个数据集上展现出良好的分类精度。
Feb, 2022
本文提出了一种新的通过过滤标签噪声来提高深度神经网络性能的方法,该方法与大多数现有方法依赖于噪声分类器的后验概率不同,它聚焦于潜在表示空间中数据的空间行为,并通过利用数据的高阶拓朴信息来收集大部分干净的数据,理论上证明了这种拓扑方法保证采集高度清洁的数据,实证结果表明,该方法优于现有技术,并且对多种噪声类型和级别具有鲁棒性。
Dec, 2020
本研究针对深度学习在对抗性环境下的鲁棒性和预测不可解释性等问题,通过将 k-NN 算法与深度学习结合,提出了一种名为 DkNN 的混合分类器,它可以为输入数据提供信心估计和人类可解释的预测解释。实验证明,DkNN 算法可以准确识别模型外部的输入,同时提供直观和有用的模型失败解释。
Mar, 2018
本研究着重研究了 KNN 和 DNN 在存在标记噪声的情况下的分类性能,提出了逼近于 KNN 的 DNN 误差表达式,证明了 DNN 在某些类型标签噪声情况下的惊人鲁棒性,并说明了噪声越集中性能下降越明显的重要因素。
Mar, 2018
利用深度神经网络记忆清晰样本更早的现象,发展一种统计学方法,根据集成学习动态数据中干净和嘈杂数据的差异,改善了噪声标记估计,噪声过滤和指导分类的方法。
Oct, 2022
提出了一种基于数据奇异值分解的噪声标签检测方法,即使用噪声数据与潜在表征之间的对齐度测量来过滤噪声实例,应用于半监督学习、噪声鲁棒性损失函数等方面,并在基准数据集上验证了其较基准算法更为优越的性能。
Feb, 2021
在最后一层重新训练中,我们提出了一种针对标签噪音的快速修正方法,通过在潜在最近邻图上进行标签传播,实现了在广泛数据集上对称标签噪音下最差群体准确性的最先进水平。
Jun, 2024
本文提出一种噪声容忍的训练算法,其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练,该元学习方法训练模型,以便在使用每个设置的合成噪声标签进行一次梯度更新后,模型不会过度拟合特定的噪声,从而提高深度神经网络的性能。
Dec, 2018