ICMLJun, 2012

从极高维度数据中发现支持和相关特征

PDF
TL;DR本文提出了一种新的学习范式，以自动从非常高的维度中识别出信息丰富且相关的特征组。通过利用相关度量作为约束条件，我们提出了一种有效的嵌入式特征选择方法，可以识别出最优的有区分性而且不相关的特征子集，即所谓的支持特征。在学习过程中，还可以发现与每个支持特征相关联的相关特征的基础组结构，即附属特征，而不需要任何额外成本。 在合成和高维真实世界数据集上的广泛实证研究验证了所提出的方法的有效性和效率。
发现论文，激发创造
  • 自适应合作相关学习基于半监督多标签特征选择

    提出了一种基于自适应协同相关学习的半监督多标签特征选择方法（Access-MFS），用于解决高维度多标签数据中存在缺失标签样本的维数灾难问题，并通过引入广义回归模型和扩展的不相关约束，在标记数据中选择具有区分性但无关的特征，并同时保持预测和实际标签之间的一致性，从而适应性地学习样本相似性图和标签相似性图，以提高特征选择性能。大量实验结果表明，所提出的 Access-MFS 方法优于其他最先进方法。

    Jun, 2024

  • 特征合奏：判别特征选择遇见无监督聚类

    本文提出了一种高效的算法，以一种高效、紧凑的方式从候选项中发现输入特征或分类器的稀疏表示，用于大规模识别，并在训练速度和性能方面显着优于传统方法和强大的分类器，特别是在有限的训练数据的情况下。

    Nov, 2014

  • 一种用于机器学习中的高维数据集的基于对比的特征选择算法

    通过选择最具信息量的特征并消除无关的特征，我们提出了一种新的基于差异性特征的滤波特征选择方法 ContrastFS，该方法能够在大型数据集上有效地降低计算成本，而且性能优于其他最先进的特征选择方法。

    Jan, 2024

  • 面向大数据的超高维特征选择

    本文提出了一种新的自适应特征缩放方案用于大数据上的超高维特征选择，解决了激活大量特征时优化速度缓慢的问题，采用特征生成方法迭代激活一组特征并通过多重核学习子问题得到最优解，通过加速近端梯度算法在原始形式中求解多重核学习子问题并采用缓存技巧加速训练，通过大量论文实验验证了方法的竞争性能。

    Sep, 2012

  • 通过相关性在高维数据中发现结构

    提出了一种层次逐步抽象表示复杂数据的学习方法，该方法基于优化信息论目标，通过最大化多变量互信息来搜索最佳解释数据相关性的潜在因素集合，该方法无需监督，不需要模型假设，并且随着变量数量的线性扩展具有可行性，我们证明了 Correlation Explanation (CorEx) 自动发现了来源于多个数据源的有意义的结构，包括个性测试、DNA 和人类语言。

    Jun, 2014

  • 特征选择：关于属性间合作的视角

    研究高维数据集中的特征选择方法及其发展，包括单变量相关性排名算法、关联 - 冗余折衷和基于多变量依赖性的方法，并总结文献中各种方法的贡献，同时介绍当前的问题和挑战，以确定未来的研究和发展方向。

    Jun, 2023

  • 无监督特征分析及类间间隔优化

    该论文提出了一种基于无监督学习的特征选择方法，将最大间隔准则和基于稀疏性的模型整合到一个联合框架中，将类间间距和特征相关性同时考虑，通过将 Kmeans 嵌入框架中来生成伪类标签，从提取特征系数矩阵的稀疏结构来有效去除噪声和无关特征，并提出了一种收敛保证的算法以迭代地寻找最优解，对六个基准数据集进行了广泛的性能评估，实验结果表明，该方法的性能优于所有其他对比方法。

    Jun, 2015

  • 通过挖掘多个任务之间的相关性进行半监督特征分析

    该论文提出了一种新颖的半监督特征选择框架，通过挖掘多个任务之间的相关性，并将其应用于不同的多媒体应用程序，从而提高特征选择的性能。

    Nov, 2014

  • 本质维度相关性：揭示多模态表示中的非线性连接

    探索了机器学习方法背后的机制，利用内在维度与相关性之间的纠缠提出了一种度量标准，用于量化高维流形之间的相关性。验证了方法在合成数据上的优势和缺点，并在神经网络表示中将分析扩展到大规模应用，揭示了多模态数据的潜在表示之间明显的关联，而现有方法在检测相似性方面存在显著困难。研究结果表明了潜在流形之间高度非线性的相关性模式的存在。

    Jun, 2024

  • 使用特征退火独立规则进行高维分类

    该研究探讨了高维特征对分类准确性的影响，提出了一种名为 FAIR 的特征筛选方法，并利用两样本 t 检验的阈值确定关键特征选择的数量，实验证明其具有优越性。

    Jan, 2007