Dec, 2023

有限标记数据的学习稳定性及随机性影响的系统文献综述

PDF
TL;DR通过综述 134 篇研究文献，我们全面概述了有限标记数据学习过程中随机性对稳定性的影响，探究、确定、缓解、比较及报告该随机性影响的四个主要任务，并提出七个挑战与未解决问题，以及进一步研究的可能方向。本综述旨在强调这个发展中的研究领域的重要性，目前还未得到应有的关注。
limited labelled datarandomness effectsstabilityfew-shot learningmeta-learning
发现论文，激发创造
  • 有限标记数据学习对随机性的敏感性：相互作用和系统选择的影响

    在有限标注数据的学习中，我们提出了一种方法来系统地研究随机因素的影响，并考虑它们之间的相互作用。通过应用该方法于多个随机因素，我们在多个任务上展示了现有研究中忽视随机因素之间相互作用所导致的不一致结果，并发现了更多系统性选择对随机因素的影响。

    Feb, 2024

  • 超越仅基于随机选择的假设：学习正类和未标记数据

    本文中，我们探讨了如何在正样本和未标注样本数据集的有选择偏差中进行有监督学习，并提出了一种基于经验风险的方法来加入标签机制和解决未知标签机制的情况，实验证明，即使在未知标签机制的情况下，考虑可能存在的选择偏差也会提高分类器的训练效果。

    Sep, 2018

  • 深度神经网络中局部不稳定性的测量和缓解

    通过研究模型在训练过程中的随机性，我们发现在自然语言理解任务中，模型的预测结果的不稳定性会对一部分查询产生影响，提出了一种衡量稳定性现象的方法 —— 标签熵，我们研究了数据不可知的正则化方法和新的数据中心方法，发现它已在计算成本的分数中取得了 90% 的性能优势以及金标准的表现。

    May, 2023

  • 针对提升隐私保护的机器学习稳定性技术的新型综述

    研究了提高模型稳定性的各种技术，从而最小化机器学习中隐私化的负面影响。

    May, 2024

  • 如何将数据分布在任务之间进行元学习？

    采用线性回归模型，实现元学习训练中的最优数据集分配，研究表明针对不同任务的数据分配策略存在差异。

    Mar, 2021

  • 关于机器学习随机性对群体公平性的影响

    探究机器学习中算法跨不同组别表现差异的群体公平性的统计度量，发现这些度量在不同训练实例之间存在高方差，从而使得它们无法提供可靠的公平性实证评估。研究表明，群体公平性度量的方差来源于在少数群体上的学习过程的高波动性，而数据顺序的随机性被认为是主要的随机性源。基于这些发现，我们展示如何通过在单个时期改变数据顺序来控制群体级准确性（即模型公平性），高效并对模型整体性能影响微乎其微。

    Jul, 2023

  • 数量与质量：探究样本量与标签可靠性之间的权衡

    研究在概率领域学习中标签质量的优化问题，提出了在有限训练预算下，是否应优先使用重采样策略提高训练数据的标签质量还是扩大数据集；并证明在人工标注的过程中这一策略可以取得更好的分类器性能，在此基础上提出了两种不同的验证方案。

    Apr, 2022

  • 连续数据更新下的模型稳定性

    本研究探讨了机器学习模型的稳定性问题，提出了评估模型稳定性的方法，并发现网络架构和输入表示等模型设计选择对稳定性有重大影响，推荐在进行建模选择时考虑准确性和抖动之间的权衡。

    Jan, 2022

  • 利用已标记和未标记数据进行学习：技术和领域的实证研究

    本文对多种半监督学习技术在不同数据集上进行实证研究，探讨标记数据和未标记数据的独立性、相关性、数量和噪声对学习效果的影响，同时针对样本选择偏差实现双变量 Probit 技术进行校正。

    Sep, 2011

  • 专家一致性存在下的有选择标签学习

    本论文探讨选择性标签下算法辅助决策学习的问题，介绍为什么标准方法无法有效处理选择性标签的普遍选择偏误问题，提出了一种数据增强方法，既可以利用专家一致性减轻选择性标签导致的部分盲目性，也可以经验验证学习是否会导致易受系统性歧视的不可靠模型。

    Jul, 2018