Oct, 2023

XAL：提高低资源学习器效果的可解释主动学习

PDF
TL;DR通过融合预训练的双向编码器和单向解码器，并结合模型的预测不确定性和解释分数，提出了一种新颖的可解释主动学习框架（XAL），用于低资源文本分类任务，并在六个不同的分类任务上进行了大量实验证明其在解释预测方面的有效性和显著改进。
active learningexplainable active learninglow-resource text classificationpre-trained encoderpre-trained decoder
发现论文，激发创造
  • ALICE: 用对比自然语言解释的主动学习

    提出了一种专家循环训练框架 ALICE，它利用对比的自然语言解释来提高学习的数据效率，通过提取和动态更改学习模型的结构来应用于鸟类物种分类和社会关系分类两个视觉识别任务中，验证结果表明，相较于使用 40-100% 更多的训练数据的基线模型，应用对比解释后的模型效果更加出色，而添加一个解释获得的性能增益与添加 13-30 个标记训练数据点的性能增益相当。

    Sep, 2020

  • 超越标签：通过新型主动学习结构为人类提供自然语言解释的支持

    该研究提出了一种新的主动学习框架，通过加入自然语言解释生成模型，实现在低资源条件下减少标签和解释注释的人工成本，并提升了决策方案生成的效果。

    May, 2023

  • 主动学习器的脆弱性

    在针对文本分类的活跃学习技术中，选择正确的文本表示、分类器以及评估指标是至关重要的，因为不同的因素可能会导致活跃学习技术的有效性受到限制。

    Mar, 2024

  • 可解释的主动学习用于偏好调查

    通过主动学习和基于用户的偏好调取方法，解决在推荐系统中缺乏用户存在或受限于其他用户数据访问的冷启动问题，从而提供个性化推荐。

    Sep, 2023

  • 面向可计算的深度主动学习

    该研究介绍了两种用于文本分类和标记任务的技术，可以显著减少深度学习中主动学习繁重的计算资源需求，通过伪标签和蒸馏模型实现更高性能的模型训练。

    May, 2022

  • DEAL: 图像分类的深度证据主动学习

    本文提出一种新的主动学习算法，将 CNN 模型的输出从 softmax 替换为 Dirichlet 值，实现从未标记数据中提取最具信息量的标记数据集，该方法在多项数据集和医学图像识别领域中与其他主动学习方法相比均具有更高的性能表现和易于实现且不需要大量计算资源的优点。

    Jul, 2020

  • Ask-n-Learn：基于可靠梯度表示的主动学习图像分类

    本论文提出了一种基于梯度嵌入和预测校准的主动学习方法 Ask-n-Learn，结合数据扩增缓解伪标注期间的确认偏差，通过对基准图像分类任务（CIFAR-10，SVHN，Fashion-MNIST，MNIST）的经验研究，证明了该方法优于最近提出的 BADGE 算法等现有基线。

    Sep, 2020

  • 法律文本分类的高效主动学习流程

    本研究提出了一种在法律领域内使用主动学习与预训练语言模型的管道，其中利用了三个阶段的未标记数据，通过知识蒸馏引导模型的嵌入到一个语义上有意义的空间，并提出了一种简单而有效的策略找到初始的标记样本，实验表明相比传统方法在数据标注成本上更为高效且性能更好。

    Nov, 2022

  • 基于扰动的主动学习问答

    利用主动学习训练策略可以建立一个问题回答模型，以更小的注释成本实现，该策略选择最具信息量的未标记训练数据以有效地更新模型，该研究提出一种基于扰动的主动学习采集策略，并证明其比现有常用策略更有效。

    Nov, 2023

  • 部署主动学习的实际障碍

    本文研究了主题 “主动学习”，发现尽管在特定模型和特定领域中使用主动学习可能会带来好处，但在不同模型和任务之间泛化当前方法的好处不可靠，并且主动学习的认购数据与指导其获取的模型相结合，与使用独立同分布的（I.I.D）随机样本训练继任模型的方法相比并没有明显的优势，主动学习的局限性是否值得现实中的应用，值得深思。

    Jul, 2018