ACLOct, 2022

基于深度学习的自然语言处理中解决类别不平衡问题的方法综述

PDF
TL;DR针对自然语言处理中的类别不平衡问题，本篇文章综述了基于深度学习的自然语言处理中的类别不平衡现状及其解决方法。通过对采样、数据增强、损失函数、分步学习和模型设计等方法的综述，提出了在多标签情况下处理类别不平衡问题的挑战和必要性，并提出系统化标准和报告的建议。
发现论文，激发创造
  • 类别不平衡下神经网络训练简化

    现实世界的数据集通常存在严重的类别不平衡问题，通过调整标准深度学习流程的现有组件，如批次大小、数据增强、优化器和标签平滑等，可以实现无需专门的类别不平衡方法即可达到最先进的性能，并提供了关于训练类别不平衡的关键建议和考虑因素，以及关于为什么类别不平衡方法成功或失败的理解。

    Dec, 2023

  • 低资源场景下自然语言处理的最近方法综述

    本文调查了低资源自然语言处理的相关方法，其中包括数据增强、遥感监视和迁移学习等技术以帮助在需要训练数据较少的情况下提高神经模型的性能，并通过说明这些方法的差异帮助选择适合特定低资源设置的技术。

    Oct, 2020

  • 公正感知的类别不平衡学习

    探索使用长尾学习方法对推特情感和职业分类中的类别不平衡和偏见进行干预，并扩展了基于边际损失的方法以实现公平性。经过受控实验，实证表明所提出的方法有助于缓解类别不平衡和人口统计学偏见。

    Sep, 2021

  • 卷积神经网络中类别不平衡问题的系统研究

    本研究系统地研究了类别不平衡对卷积神经网络分类性能的影响，并比较了几种解决该问题的常用方法。在使用三个基准数据集进行实验的过程中，研究者发现类别不平衡对分类性能有不利影响，而通过过采样的方法可以提高分类性能。同时，该研究还发现阈值补偿在一定场景下也能够提高分类性能。

    Oct, 2017

  • 重新思考机器学习中的类别不平衡

    这篇研究提出了不仅仅是平衡比例问题，还存在方差、距离、邻域和质量不均衡的种类，这些不均衡对学习的公平性产生了显着影响，并提出了一种新的基于对数摇动的失衡学习损失方法来解决比例、方差和距离不平衡问题。实验结果表明了该方法的有效性。

    May, 2023

  • 数据挖掘中的类别不平衡问题综述

    本文系统地研究了数据分类中的类别不平衡问题，探讨了算法、数据预处理以及特征选择等方法的优劣，为类别不平衡问题的后续研究提供了正确方向。

    May, 2013

  • 不均衡分类中的重采样和滤波权衡

    在处理高度不平衡的标记分类任务中，选择训练数据的方式会对模型性能产生效果和效率方面上的权衡。在使用英语和阿拉伯语文本序列标记实验中，不同的训练数据选择方法带来了不同的效果和效率权衡；在对高度不平衡情况下的模型性能测试中，使用基于一次检索模型的测试数据过滤和训练数据选择同样重要。而变化的幅度取决于所研究的现象基础率。

    Aug, 2022

  • 机器学习技术在不平衡数据中的综述与未来趋势

    通过对 258 篇论文的综合分析，本文着重从技术和应用的角度对不平衡学习进行了深入研究，总结了各种方法在不同领域解决不平衡数据问题的实践，旨在为学术和工业界的研究人员提供一个全面的指南，以利用大规模不平衡数据进行机器学习。

    Oct, 2023

  • 处理磁盘数据不平衡的方法调查

    分类问题中存在类别不平衡的情况，而数据又是为了提高准确性而设计的，类别不平衡可能导致几个类别的错分代价更高，本文综述了不平衡数据分类领域的研究，讨论了数据层方法、算法层方法和混合方法等三个主要方面，并总结分析了现有方法的问题、算法思想、优势和劣势，另外还讨论了类别不平衡数据分类的挑战与解决策略，方便研究人员根据实际需求选择适用的方法。

    Oct, 2023

  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022