AAAIMay, 2014

线性分类中降维的作用

PDF
TL;DR使用辅助坐标方法，我们提出了一种简单，高效的算法来训练非线性 DR 和分类器的组合，并将其应用于具有线性 SVM 的 RBF 映射。该非线性低维分类器的分类错误率竞争力与最先进技术相当，但在训练和测试过程中非常快速，并允许用户轻松权衡运行时间和分类精度。同时，我们还研究了非线性 DR 在线性分类中的作用以及 DR 映射，潜在维度数量和类别数量之间的相互作用。
dimensionality reductionnonlinear drclassifierrbf mappingclassification errors
发现论文，激发创造
  • 降维作为概率推断

    本文提出了 ProbDR 变分框架，将许多经典的降维算法视为该框架下的概率推断算法。我们的框架利用低维潜变量构建协方差矩阵、精度矩阵或图拉普拉斯矩阵，这些矩阵可作为数据生成模型的一部分。利用此框架，我们可以更容易地处理未见数据，并且得到较为准确的高斯过程似然估计结果。

    Apr, 2023

  • 降维的本地解释

    介绍一种称为 LXDR 的技术，可以为 DR 技术的输出提供本地解释，以解决 DR 技术通常难以解释的问题，并通过实验结果和两个 LXDR 使用案例来评估其实用性。

    Apr, 2022

  • 线性降维：调查、见解和概括

    本文综述了一些线性降维方法，以及它们如何作为矩阵流形优化问题进行求解，并提出了一种基于正交投影的典型相关分析方法，这种优化框架使得线性降维成为了一种面向各种数据类型的黑盒子数值技术。

    Jun, 2014

  • 朝向适合 K 均值算法的空间：同时进行深度学习与聚类

    本文提出了一种利用深度神经网络实现联合降维和 K-means 聚类的方法，通过学习非线性函数的深度神经网络，以期获得更好的聚类和降维效果。

    Oct, 2016

  • 数据维度缩减提高机器学习算法效率

    本文提出数据维数减少的方法，其中应用了 PCA 和 Auto-encoders 算法，并结合监督学习和无监督学习算法来验证在预处理 DDR 方面的准确性和时间效果。实验证明，预处理不仅能提高算法精度，也能提高时间效率，从而实现大规模精度和时间节省的目标。

    Nov, 2022

  • 可逆流形学习在降维中的应用

    该论文提出了一种名为 invertible manifold learning 的两阶段降维方法来保持拓扑和地理结构的完整性，其中包括一个稀疏坐标转换学习低维表示和一个局部等距约束来保留局部几何形状，同时通过线性压缩在目标维度和信息损失之间寻找平衡点，并使用 i-ML-Enc 在七个数据集上进行了实验，证明该方法可以实现可逆降维以及学习流形数据的性质。

    Oct, 2020

  • 回归中的核降维

    本文提出一种新的充分降维 (SDR) 的方法，该方法以协变量 $X$ 与响应 $Y$ 的条件独立性为基础，并以再生核希尔伯特空间上的条件协方差算子来表征该条件独立性断言，从而实现了对中心子空间的 $M$- 估计。

    Aug, 2009

  • 利用信息流形投影进行聚类探索

    我们提出了一种新的方法，用于生成信息丰富的嵌入，该方法不仅消除了与不同类型先验知识相关的结构，还旨在揭示任何剩余的基本结构，通过采用两个目标的线性组合：首先是对先验信息相关结构进行折扣的对比主成分分析 (contrastive PCA)，其次是通过峰度投影追求 (kurtosis projection pursuit) 确保得到的嵌入中存在有意义的数据分离，并将此任务形式化为流形优化问题，并在考虑三种不同类型的先验知识的各种数据集上进行了经验验证，最后，我们提供了一个自动化框架，用于对高维数据进行迭代的视觉探索。

    Sep, 2023

  • 基于随机投影的降维技术综述

    本文总结了基于随机投影的不同方法的使用情况，旨在帮助实践者为其特定应用选择合适的技术，并列举了各种方法的优缺点，并为研究人员提供进一步的参考，以开发新的基于随机投影的方法。

    Jun, 2017

  • 对比潜变量模型的无监督学习

    本文提出了一种基于概率模型的降维方法，通过在目标数据集和背景数据集之间寻找信号富集的模式，能够恢复目标数据集中潜在空间中的有趣结构，并可应用于去噪、特征选择和子组发现等领域。

    Nov, 2018