Nov, 2023

迪利克雷主动学习

PDF
TL;DR这项工作介绍了 Dirichlet 主动学习（DiAL），一种灵感来自贝叶斯的主动学习算法设计方法。我们的框架将特征条件类概率建模为 Dirichlet 随机场，并在相似特征之间提供观测强度以校准该随机场。该随机场可以在学习任务中使用：特别是在标签数据稀缺的情况下，我们可以利用当前的均值和方差估计进行分类和主动学习。我们通过基于图拉普拉斯矩阵的 `` 传播算子 '' 构建了这个模型在低标签率图学习中的适用性，并通过计算实验证明了该方法与最先进技术的竞争力。最后，我们提供了关于这种方法在保证探索和开发能力方面的严格保证，分别以群簇探索和对决策边界的关注增加为表达。
dirichlet active learningbayesian-inspired approachactive learning algorithmsgraph learningpropagation operators
发现论文，激发创造
  • DEAL: 图像分类的深度证据主动学习

    本文提出一种新的主动学习算法，将 CNN 模型的输出从 softmax 替换为 Dirichlet 值，实现从未标记数据中提取最具信息量的标记数据集，该方法在多项数据集和医学图像识别领域中与其他主动学习方法相比均具有更高的性能表现和易于实现且不需要大量计算资源的优点。

    Jul, 2020

  • 噪声容忍和差分隐私的统计主动学习算法

    提出一种基于统计学习框架的主动学习算法，能够高效地处理随机分类噪声和差分隐私，且可将其转换为能容忍分类噪声的主动学习算法，同时也实现了用指数级别的误差提高标签节约的差分隐私主动学习算法.

    Jul, 2013

  • DiffusAL: 主动学习与图扩散相结合的高效节点分类

    节点分类是属性图的核心任务之一，本论文提出了一种称为 DiffusAL 的新型主动图学习方法，通过结合三个独立的得分函数来识别在标记中最具信息量的节点样本，显著提高了标记效率，相较于之前的方法在所有数据集和标注预算中均显著优于随机选择。

    Jul, 2023

  • 区分性主动学习

    提出一种新的批次模式主动学习算法 —— 判别式主动学习法（DAL），并将其应用在神经网络和大批次查询的情境中，尝试通过将标记集合和未标记的数据池区分开来作为选择样本的依据来执行主动学习，结果表明我们的方法在中等和大批次查询中与最先进的方法相当，并且在实现简单的同时还可以扩展到除分类任务之外的其他领域，同时，我们的实验还表明在相对较大的批次中，当批量大小较大时，当前现有的最先进方法均不比不确定性采样明显更好，从而推翻了一些最近文献中报道的结果。

    Jul, 2019

  • 自然语言处理的深度贝叶斯主动学习：一项大规模实证研究结果

    本篇论文就深度主动学习进行了大规模实证研究，针对多种任务和数据集、模型以及获取函数，证实贝叶斯主动学习方法在许多方面都优于传统的不确定性采样方法。

    Aug, 2018

  • 主动模型选择

    该论文研究了主动学习中困难的预测模型选择问题，并提出一种基于模型探针（model probes）的方法 Biased-Robin Algorithm，能够在相同成本和先验概率下有效地选择模型。

    Jul, 2012

  • 深度主动学习综述

    这篇文章探讨了深度主动学习的现状和未来发展方向，介绍了目前现有的挖掘数据特征的多种方法，并且对 “深度主动学习” 进行了定义和系统梳理。

    Aug, 2020

  • Ask-n-Learn：基于可靠梯度表示的主动学习图像分类

    本论文提出了一种基于梯度嵌入和预测校准的主动学习方法 Ask-n-Learn，结合数据扩增缓解伪标注期间的确认偏差，通过对基准图像分类任务（CIFAR-10，SVHN，Fashion-MNIST，MNIST）的经验研究，证明了该方法优于最近提出的 BADGE 算法等现有基线。

    Sep, 2020

  • 深度贝叶斯主动学习图像数据

    该研究结合贝叶斯深度学习与主动学习框架，在高维图像数据的任务中，证明了其在现有主动学习方法上的显着改进。研究表明，结合专业模型，如贝叶斯卷积神经网络，可以使主动学习技术在 MNIST 数据集和皮肤癌诊断任务中得到显著改进。

    Mar, 2017

  • DIRECT: 不平衡和标签噪音下的深度主动学习

    通过一种新颖的算法 DIRECT，该论文提出了解决机器学习中不平衡问题的有效技术，通过收集更平衡和信息丰富的标记示例来进行注释，相较于现有算法，该算法节省了超过 15% 的注释预算。

    Dec, 2023