May, 2024

通过 Hellinger 相关性增强充分降维

PDF
TL;DR本文提出了一种新的理论和方法，用于单指数模型中的充分降维 (SDR)，SDR 是基于条件独立性的监督降维的一个子领域。利用 Hellinger 相关作为一种依赖度量，我们开发了一种能够有效检测降维子空间的方法，并给出了理论解释。通过大量的数值实验，我们证明了我们提出的方法明显优于现有的 SDR 方法。这种改进主要归因于我们提出的方法对数据依赖性的更深入理解和对现有 SDR 技术的改进。
发现论文，激发创造
  • 回归中的核降维

    本文提出一种新的充分降维 (SDR) 的方法，该方法以协变量 $X$ 与响应 $Y$ 的条件独立性为基础，并以再生核希尔伯特空间上的条件协方差算子来表征该条件独立性断言，从而实现了对中心子空间的 $M$- 估计。

    Aug, 2009

  • 对比逆回归降维

    本文提出了一种针对对照研究的有监督降维方法 contrastive inverse regression，该方法使用 Stiefel 流形和非标准损失函数进行优化，并在数字学习中证明了其相对于竞争方法的改进性能。

    May, 2023

  • 通过信息最大化进行功能充分降维并应用于分类

    本文提出了两种基于互信息和平方损失互信息的新型功能性充分降维（FSDR）方法，能够在分类数目相对较小的情况下估计多个有效的降维方向，尤其是对于二元响应，而且不需要线性条件平均值和常数协方差假设。在一些温和的条件下，本文建立了所提出方法的统计一致性，并通过模拟和实际数据分析证明了这两种方法的竞争性。

    May, 2023

  • 降维作为概率推断

    本文提出了 ProbDR 变分框架，将许多经典的降维算法视为该框架下的概率推断算法。我们的框架利用低维潜变量构建协方差矩阵、精度矩阵或图拉普拉斯矩阵，这些矩阵可作为数据生成模型的一部分。利用此框架，我们可以更容易地处理未见数据，并且得到较为准确的高斯过程似然估计结果。

    Apr, 2023

  • 关于充分图模型

    将非线性合适降维技术应用于条件独立性评估，引入了一种足够的图模型，该模型在本质上是非参数的，避免了高维核函数引起的维度灾难；通过模拟比较和对 DREAM 4 挑战数据集的分析，证明了该方法在高维设置下，且当高斯或 copula 高斯假设不成立时，其性能优于现有方法。

    Jul, 2023

  • 孪生学习进行降维

    本文提出了 TLDR，一种利用自监督学习框架的简单、易于训练并具有广泛适用性的降维方法，通过使用最近邻并引入冗余减少损失来学习变换表示。该方法专注于提高线性降维，在图像和文档检索任务中表现出稳定的优化效果。

    Oct, 2021

  • 降维的本地解释

    介绍一种称为 LXDR 的技术，可以为 DR 技术的输出提供本地解释，以解决 DR 技术通常难以解释的问题，并通过实验结果和两个 LXDR 使用案例来评估其实用性。

    Apr, 2022

  • 超高维特征空间的稳健独立筛选

    该研究介绍了 Sure Independence Screening（SIS）概念，提出了一种基于相关学习的 SIS 方法来减少超高维度，进而通过 SCAD、Dantzig 选择、Lasso 或自适应 Lasso 等成熟方法来提高速度和准确率。

    Dec, 2006

  • 通用依存分析

    提出了一种基于累积熵的多元相关性度量方法，称为 UDS，可用于测量任何维度的子空间的相关性，能够有效地捕捉线性和非线性相关性，且性能优于现有的相关性测量方法。

    Oct, 2015

  • 通过松弛化实现监督离散哈希

    本文提出了一种基于学习的哈希方法，称为 “带松弛的监督离散哈希”（SDHR），它在传统监督离散哈希的基础上优化了回归目标矩阵，并满足每个示例的正确分类的大边界约束。SDHR 相对于传统的离散哈希方法具有更高的分类精度和更好的灵活性，并在图像和人脸数据集上得到了有效和高效的结果。

    Apr, 2019