深度主动学习用于具多样化解释的文本分类

Aug, 2021

深度主动学习用于具多样化解释的文本分类

Deep Active Learning for Text Classification with Diverse Interpretations

Qiang Liu, Yanqiao Zhu, Zhaocheng Liu, Yufeng Zhang, Shu Wu

TL;DR本研究提出了一种基于神经网络解释能力的主动学习方法 ALDEN，该方法可根据样本的多样性解释性选择样本并查询其标签，使得高质量模型的训练成为可能。实验证明，ALDEN 在文本分类问题上比其他主动学习方法表现更好。

Abstract

Recently, deep neural networks (DNNs) have made remarkable progress for text classification, which, however, still require a large number of labeled data. To train high-performing models with the minimal annotation cost, active learning is proposed to select and label the most informat

deep neural networks text classification active learning interpretability diversity

发现论文，激发创造

使用深度神经网络进行文本分类的主动学习调查

本文评估最近采用神经网络的主动学习策略在文本分类中的性能与缺陷，并探讨了训练小数据集的深度神经网络 (DNN) 对于实现有效的主动学习的重要性，并为当前研究中存在的差距提出了几个研究问题。

Aug, 2020

主动判别式文本表示学习

在文本分类任务中，我们提出了一种新的基于卷积神经网络（CNNs）的主动学习方法。我们的方法侧重于选择具有最大影响的实例，以快速学习区分性的任务特定嵌入，并得出良好的实验结果，是首次在使用神经模型进行文本分类的主动学习方面的工作。

Jun, 2016

DEAL: 图像分类的深度证据主动学习

本文提出一种新的主动学习算法，将 CNN 模型的输出从 softmax 替换为 Dirichlet 值，实现从未标记数据中提取最具信息量的标记数据集，该方法在多项数据集和医学图像识别领域中与其他主动学习方法相比均具有更高的性能表现和易于实现且不需要大量计算资源的优点。

Jul, 2020

深度主动学习综述

这篇文章探讨了深度主动学习的现状和未来发展方向，介绍了目前现有的挖掘数据特征的多种方法，并且对 “深度主动学习” 进行了定义和系统梳理。

Aug, 2020

自然语言处理的深度贝叶斯主动学习：一项大规模实证研究结果

本篇论文就深度主动学习进行了大规模实证研究，针对多种任务和数据集、模型以及获取函数，证实贝叶斯主动学习方法在许多方面都优于传统的不确定性采样方法。

Aug, 2018

深度主动学习的比较调查

研究 DAL 的不同方法，提出 DeepAL+ 工具包，并通过分类实验评估 DAL 方法的性能效果，提供更好的数据标注方法以提高模型性能。

Mar, 2022

区分性主动学习

提出一种新的批次模式主动学习算法 —— 判别式主动学习法（DAL），并将其应用在神经网络和大批次查询的情境中，尝试通过将标记集合和未标记的数据池区分开来作为选择样本的依据来执行主动学习，结果表明我们的方法在中等和大批次查询中与最先进的方法相当，并且在实现简单的同时还可以扩展到除分类任务之外的其他领域，同时，我们的实验还表明在相对较大的批次中，当批量大小较大时，当前现有的最先进方法均不比不确定性采样明显更好，从而推翻了一些最近文献中报道的结果。

Jul, 2019

主动学习的语境多样性

通过引入上下文多样性的概念，利用所提出的上下文多样性度量在两个主动学习框架中使用，以进行主动帧选择，并在语义分割，目标检测和图像分类的基准数据集上建立最先进的结果。

Aug, 2020

DIRECT: 不平衡和标签噪音下的深度主动学习

通过一种新颖的算法 DIRECT，该论文提出了解决机器学习中不平衡问题的有效技术，通过收集更平衡和信息丰富的标记示例来进行注释，相较于现有算法，该算法节省了超过 15% 的注释预算。

Dec, 2023

ImageNet 规模下的主动学习

该研究通过将主动学习与自监督预训练相结合，并使用称为 Balanced Selection（BASE）的算法来解决类不平衡问题，提高图像分类性能，特别适用于工业级大规模数据标记和训练中。

Nov, 2021