Oct, 2023

不平衡数据、表示学习和 SEP 预测的调查

PDF
TL;DR深度学习方法在回归、分类和预测等各种数据驱动任务中取得了显著进展，但其进步往往建立在对训练数据集相对平衡的不切实际的假设上。然而，与现实世界中数据经常不平衡的情况不符，这削弱了这些模型在实际应用中的效果。本调查报告介绍了一些深度学习研究，摒弃了平衡数据的假设，并采用表征学习等策略来更好地逼近现实世界中的数据不平衡问题。我们还强调了在 SEP 预测中解决数据不平衡问题对成功至关重要。
deep learning methodsdata-driven tasksimbalanced datarepresentation learningreal-world imbalances
发现论文，激发创造
  • 人脸识别和属性预测中的深度不平衡学习

    本研究采用各种经典策略验证了其在类不平衡数据的表示学习有效性，并展示了同时在和类内外保持间隔的约束下学习更具有区分性的深度表示的方法：Cluster-based Large Margin Local Embedding (CLMLE)，结合简单的 k 近邻聚类算法，改善了三维面部识别和面部属性预测任务中现有方法的准确性。

    Jun, 2018

  • 使用平衡权重进行反事实表示学习

    本文介绍了在因果推断中使用加权重来实现预测功能的平衡，强调了确定合适的目标人群的重要性，并使用引理将平衡与倾向性评估的质量联系起来，最终展示了学习到的加权表示如何促进具有吸引力统计特征的替代因果学习过程。

    Oct, 2020

  • 表示学习：综述与新视角

    本文回顾了无监督特征学习和深度学习领域中的最新进展，讨论了学习良好的数据表示的适当目标，以及表示学习、密度估计和流形学习之间的几何联系。

    Jun, 2012

  • 表示学习的深度学习：展望未来

    本文主要探讨深度学习面临的挑战，包括大规模模型与数据集的扩展、优化难点、设计高效的推断与抽样过程，以及学习分离数据中的因素变化等，并提出相应的研究方向。

    May, 2013

  • 演讲处理中的深度表示学习：挑战、最新进展和未来趋势

    本文介绍了语音表征学习的不同技术的最新综述，将分散的研究汇集到了自动语音识别、说话人识别和说话人情感识别三个研究领域中，并弥补了以前综述中没有涉及语音表征学习的空白。

    Jan, 2020

  • 气候适应：从不平衡卫星数据中可靠地预测

    本文研究了如何处理在应用深度学习技术识别危机管理时，数据高度不平衡的情况，探讨了多种技术并提出了一套综合方法，旨在提高少数类别分类的性能和模型可靠性。

    Apr, 2020

  • 深度表示学习：基础，视角，应用和开放挑战

    本研究论述了机器学习算法在学习过程中的表示问题及应用，并就深度学习模型、框架和关键问题等进行了探讨和分析。

    Nov, 2022

  • 数据表示学习综述：从传统特征学习到最近的深度学习

    本文综述了数据表示学习方法的发展历程，探讨了传统特征学习算法和深度学习模型。提供了有关数据表示学习的历史，可用资源（例如在线课程，教程和书籍信息）和工具箱。最后，对数据表示学习的一些有趣的研究方向进行了总结。

    Nov, 2016

  • 长尾识别的表示与分类器解耦

    本研究中，我们解耦学习过程，系统地探索不同平衡策略如何影响长尾识别的表示学习和分类器。我们的发现表明，数据不平衡在学习高质量表示方面可能不是问题，在使用最简单的实例平衡抽样进行学习表示的情况下，只需调整分类器就能实现强大的长尾识别能力，甚至可以胜过精心设计的损失、采样策略以及使用记忆组件的复杂模块。

    Oct, 2019

  • 回归数据集的不平衡问题

    通过分析回归问题中样本分布的不平衡导致的模型倾向于忽视不常见数据且过度关注常见目标的问题，我们提出了回归问题中不平衡的首次定义，并展示其为分类中常用的不平衡度量的推广。通过这一工作，我们希望引起人们对回归不平衡问题的关注，并为未来的研究提供共同的基础。

    Feb, 2024