Sep, 2020

ALICE: 用对比自然语言解释的主动学习

PDF
TL;DR提出了一种专家循环训练框架 ALICE，它利用对比的自然语言解释来提高学习的数据效率，通过提取和动态更改学习模型的结构来应用于鸟类物种分类和社会关系分类两个视觉识别任务中，验证结果表明，相较于使用 40-100% 更多的训练数据的基线模型，应用对比解释后的模型效果更加出色，而添加一个解释获得的性能增益与添加 13-30 个标记训练数据点的性能增益相当。
active learningcontrastive explanationsneural networkdata efficiencyvisual recognition
发现论文，激发创造
  • 超越标签：通过新型主动学习结构为人类提供自然语言解释的支持

    该研究提出了一种新的主动学习框架，通过加入自然语言解释生成模型，实现在低资源条件下减少标签和解释注释的人工成本，并提升了决策方案生成的效果。

    May, 2023

  • XAL：提高低资源学习器效果的可解释主动学习

    通过融合预训练的双向编码器和单向解码器，并结合模型的预测不确定性和解释分数，提出了一种新颖的可解释主动学习框架（XAL），用于低资源文本分类任务，并在六个不同的分类任务上进行了大量实验证明其在解释预测方面的有效性和显著改进。

    Oct, 2023

  • CLUES: 使用自然语言解释学习分类器的基准

    研究使用自然语言来训练从语言中零样本学习结构化数据的分类器，并提出一个评估标准 CLUES，其包含 36 个现实世界和 144 个合成分类任务的自然语言监督。为实现此目的，开发了 ExEnt，一种基于蕴含的模型，通过学习解释来学习分类器。

    Apr, 2022

  • 使用自然语言说明训练分类器

    本研究提出了 BabbleLabble 框架，使用人类的自然语言解释来训练分类器，得到了具有可比 F1 得分的分类器。此外，针对标记函数的固有不完美性，我们发现简单的基于规则的语义解析器就足以胜任。

    May, 2018

  • ALE：面向自然语言处理的基于仿真的主动学习评估框架用于参数驱动的查询策略比较

    使用可复现的主动学习评估框架来比较评估自然语言处理中的主动学习策略，并通过定义和跟踪实验参数，帮助实践者作出更明智的决策，同时帮助研究者开发出新的高效主动学习策略和制定最佳实践，从而降低注释成本。

    Aug, 2023

  • 代码搜索的主动归纳逻辑编程

    ALICE 是一种交互式代码搜索技术，能够主动利用用户反馈来表达和细化搜索查询，并采用基于逻辑事实的查询语言模型及主动归纳逻辑编程，有效地筛选掉大量错误结果，同时不需要用户手动构建搜索模式，具有较高精度与召回率。

    Dec, 2018

  • 深度主动学习用于具多样化解释的文本分类

    本研究提出了一种基于神经网络解释能力的主动学习方法 ALDEN，该方法可根据样本的多样性解释性选择样本并查询其标签，使得高质量模型的训练成为可能。实验证明，ALDEN 在文本分类问题上比其他主动学习方法表现更好。

    Aug, 2021

  • 运用多层对比学习在 VQA 中实现更加忠实的自然语言解释

    为了解决 VQA-NLE 模型在逻辑推理、事实一致性和语义扰动不敏感性等方面存在的问题，我们提出了一种基于自监督多层对比学习的自然语言解释模型 (MCLE)，通过提取具有辨别性的特征并将解释的特征空间与视觉问题和答案对齐，生成更一致的解释。我们通过广泛的实验、消融分析和案例研究来证明我们方法的有效性。

    Dec, 2023

  • 自然语言理解中新领域的主动学习

    本文提出了一种名为 Majority-CRF 的算法，通过使用分类模型的集成来指导选取相关的话语，以及序列标注模型来帮助优先选择信息量大的示例，进行主动学习，实验结果表明，与随机采样相比，本算法在相同的注释预算下可以实现 6.6％-9％的相对误差率降低，并且与其他主动学习方法相比，取得了显著的改进，此外，在六个新领域进行人机交互的案例研究表明，本文提出的算法在现有的 NLU 系统上取得了 4.6％-9％的改进。

    Oct, 2018

  • 自然语言生成的主动学习

    本文是第一次系统地研究了主动学习在文本生成方面的应用，研究表明现有的主动学习策略在文本生成场景下效果不佳，无法持续超越随机示例选择的基准线。

    May, 2023