IJCAIAug, 2018

测试时间预算上的鲁棒文本分类器

PDF
TL;DR提出一种通用且可解释的学习框架，以构建健壮的文本分类模型，在测试时间预算限制下实现与完整模型可比的准确性。该方法学习选择器来识别预测任务相关的单词，并将其传递给分类器进行处理。选择器与分类器一起进行训练，并直接学习与分类器相结合。我们进一步提出了一种数据聚合方案，以提高分类器的鲁棒性。我们的学习框架很普遍，可以与任何类型的文本分类模型结合使用。在真实数据上，我们展示了所提出的方法提高了给定分类器的性能，并在准确性性能稍微降低的情况下加快了模型的速度。
text classificationlearning frameworkrobustselectordata aggregation
发现论文，激发创造
  • 高效文本分类的诀窍

    本文介绍了一种用于文本分类的简单高效的基线方法 fastText，在准确性方面通常与深度学习分类器相媲美，但在训练和评估方面快了数个数量级。我们用标准的多核 CPU 可以在不到十分钟的时间内对十亿多个单词进行训练，并在不到一分钟的时间内对 312K 种类别的 50 万个句子进行分类。

    Jul, 2016

  • 冰山之尖外：文本分类器的连贯性评估

    通过一种新的预测一致性评估框架来评估大规模预训练语言模型的能力，该框架可以快速、有效地提供对机器预测一致性的见解。

    Sep, 2021

  • 文本分类任务中的成本 / 质量权衡：我应该选择哪种模型？

    本文对文本分类任务进行了量化分析，以分类准确性为主要指标，评估了各种模型的性能，包括大型语言模型及其相关成本，包括注释成本、训练成本和推理成本，并讨论了在需要大量推断样本的情况下的模型选择。其目的是为了帮助人们更好地理解文本分类任务的成本 / 质量权衡。

    Jan, 2023

  • 代价敏感的分类器树

    本论文通过构建一颗代价敏感的分类器树来减少特征提取时间，从而解决在大规模实际应用中平衡分类器准确率和测试时间成本的挑战。

    Oct, 2012

  • FastClass：一种高效的弱监督文本分类方法

    本文提出了一种有效的弱监督分类方法 FastClass，它使用密集文本表示从外部无标签语料库中检索与类相关的文档，并选择最优子集来训练分类器，相比关键词驱动方法，我们的方法对初始类描述的依赖性更低且训练速度更快，实验证明在广泛的分类任务上，该方法的分类准确性通常优于关键词驱动模型并且训练速度对比关键词驱动方法快得多。

    Dec, 2022

  • 面向所有人的敏捷文本分类器

    本文介绍并评估了一种针对特定策略快速开发分类器的敏捷文本分类方法，实验表明使用尽少至 80 个示例的标记数据集对大型语言模型（PaLM 62B）进行快速调整能够实现最先进的性能，并认为这种方法有助于支持更安全的在线话语模型

    Feb, 2023

  • 预算下的自适应分类预测

    本文提出了一种新的自适应逼近方法，用于测试时的资源受限预测，通过门控和预测模型在训练数据中学习，实现在低成本模型精度较高的区域适应性逼近高准确度模型，并通过代价约束下的经验损失最小化问题来共同训练门控和预测模型，在多个基准数据集上实现了优于现有技术的高准确度。

    May, 2017

  • 仅从相关关键词和未标记文档中学习

    本文提出了一个理论上有保证的学习框架，用于无标签文档的分类问题，该框架可以灵活选择模型，并且有效地优化了接收器操作特征曲线下的面积，并在基准数据集上展示了其有效性。

    Oct, 2019

  • 探究文本分类器的工作

    通过使用一些新的文本分类方法，我们研究了模型是否真正学习了组合句子的意义，或者仅仅关注一些关键词或词典。我们的结果表明，许多模型仍然只是关注词汇和关键词，因此我们提出了新的正则化技术来防止这种过拟合，并在实验中得到了良好的结果。

    Jan, 2018

  • 一种基于多模型的深度学习框架，用于处理不平衡和非常小的数据集进行短文本多分类

    本文提出了一种基于多模态的深度学习框架，用于短文本多类别分类，针对于极小数据集，使用了 DISTILBERT 来获取上下文敏感的动态词向量，并取得了在精度、召回率、准确率和 F1 分数上与现有最优方法相同的性能，同时模型体积更小，可以在移动设备上更快、更轻地部署。

    Jun, 2022