Feb, 2023

稀疏 GEMINI 用于联合判别聚类和特征选择

PDF
TL;DR本研究提出了一种基于几何感知相互信息的判别式聚类模型 ——Sparse GEMINI，该算法通过简单的 L1 惩罚避免了组合特征子集探索的负担，同时只设计一个聚类模型，易于扩展到高维数据和大量样本进行。研究结果表明 Sparse GEMINI 是一种有竞争力的算法，在不使用相关性标准或先验假设的情况下，具有选择与聚类相关的变量子集的能力。
发现论文，激发创造
  • 基于稀疏 Fisher-EM 算法的聚类判别变量选择

    本研究提出了在 Fisher-EM 算法的 loading matrix 中引入稀疏性以选择区分变量的方法，用于聚类高维数据，并在模拟和实际数据集上进行了实验比较。同时，还展示了这种方法在火星高光谱图像分割方面的应用。

    Apr, 2012

  • 判别聚类的广义互信息

    本文提出了一种新的无监督神经网络训练度量标准 —— 广义互信息 (GEMINI)，相比于互信息，它不需要正则化且可自动选择群聚数目，并且是数据空间的几何感知度量，从而提供更好的聚类效果。

    Oct, 2022

  • 广义互信息：一种用于判别聚类的框架

    本文介绍了深度聚类中相互信息作为无监督训练神经网络的客观标准的最大化并不能得到令人满意的聚类结果，并将核心距离更改为常见的挑战导致的原因。因此，我们通过引入广义相互信息 (GEMINI) 来推广相互信息，它是一组用于无监督神经网络训练的指标。与相互信息不同，一些 GEMINI 在训练时不需要正则化，因为它们在数据空间中具有几何意识的距离或核函数。最后，我们强调 GEMINI 可以自动选择相关的聚类数目，这是在深度判别聚类上很少研究的一个特性，因为聚类数目是先验未知的。

    Sep, 2023

  • 特征合奏：判别特征选择遇见无监督聚类

    本文提出了一种高效的算法，以一种高效、紧凑的方式从候选项中发现输入特征或分类器的稀疏表示，用于大规模识别，并在训练速度和性能方面显着优于传统方法和强大的分类器，特别是在有限的训练数据的情况下。

    Nov, 2014

  • 无监督特征分析及类间间隔优化

    该论文提出了一种基于无监督学习的特征选择方法，将最大间隔准则和基于稀疏性的模型整合到一个联合框架中，将类间间距和特征相关性同时考虑，通过将 Kmeans 嵌入框架中来生成伪类标签，从提取特征系数矩阵的稀疏结构来有效去除噪声和无关特征，并提出了一种收敛保证的算法以迭代地寻找最优解，对六个基准数据集进行了广泛的性能评估，实验结果表明，该方法的性能优于所有其他对比方法。

    Jun, 2015

  • 具有稀疏性的判别高斯混合模型

    通过稀疏贝叶斯学习，提出了一种基于判别高斯混合模型（Sparse Discriminative Gaussian Mixture, SDGM）的分类器。实验结果表明，该方法优于现有的基于 softmax 的判别模型。

    Nov, 2019

  • 多目标特征选择的紧凑型 NSGA-II

    特征选择是机器学习和数据挖掘中的一项复杂任务，其目标是去除无关和多余的特征，以提高分类准确性和减少内存需求。我们提出了一种多目标二进制优化算法 Compact NSGA-II，通过紧凑表示将种群视为概率分布，从而减少适应度评估次数，有效地探索搜索空间并在有限预算内表现出更高的效率。该算法是首个用于特征选择的紧凑多目标算法，并在五个数据集上的昂贵优化案例中取得了比 NSGA-II 更好的性能表现。

    Feb, 2024

  • 稀疏回归：可扩展的算法和实证表现

    本文回顾了特征选择领域内应用最广的方法，重点关注其精度和误检探测率随着样本数量增加的表现，并对比了常用的 Lasso 正则化方法以外，不太为人所知的非凸罚函数方法。通过实证分析，我们发现整数规划方案及其布尔松弛具有更优的性能表现，但相应的计算成本也更高。考虑到准确率、假检率和计算时间等综合评估因素，本文揭示了一些不同的特征选择方案，为相关领域的研究提供了参考依据。

    Feb, 2019

  • 贪婪特征选择：通过贪婪方法进行分类器依赖特征选择

    本研究介绍了一种名为贪婪特征选择的用于分类任务的特征排序新方法，并通过理论和数值测试探究了该方法在模型容量指标以及预测活动太阳的地球有效表现问题上的好处。

    Mar, 2024

  • Fisher 判别子空间中的模型聚类与可视化

    本文介绍了一种判别潜在混合模型（DLM）和一种估计算法 Fisher-EM 算法，可用于高维数据空间中的聚类，其结果优于现有的聚类方法，可以用于质谱数据聚类

    Jan, 2011