Jul, 2023

基于统计的列子集选择视角

PDF
TL;DR在这篇论文中，我们研究了从大数据集中选择一个小的代表性变量子集的问题，并且证明了计算机科学文献中的维数约简问题（Column Subset Selection）和统计学文献中的寻找最大信息变量集的问题是等价的，同时也可以在一定的半参数模型中视为最大似然估计。利用这些连接，我们展示了如何在仅使用原始数据集的汇总统计信息的情况下有效地进行维数约简（Column Subset Selection），如何在出现缺失和 / 或被审查数据的情况下进行维数约简（Column Subset Selection），以及如何在假设检验框架下选择维数约简（Column Subset Selection）的子集大小。
dimensionality reductioncolumn subset selectionprincipal variablesmaximum likelihood estimationsummary statistics
发现论文，激发创造
  • 对于纵列子集选择和 Nyström 方法的改进保证和多下降曲线

    本文提出了利用数据矩阵的谱属性来获得改进的逼近保证，超越了标准的最坏情况分析，研究结果显示：逼近因子作为 k 的函数可能会呈现多个波峰和波谷，这被称为多峰曲线。

    Feb, 2020

  • 公平列子集选择

    研究公平的列子集选择问题，尤其是在考虑多个数据群体的情况下，采用一种基于确定性杠杆得分采样的方法来提高选择近似解的效果。

    Jun, 2023

  • 列子集选择是 NP 完备问题

    本研究探讨了矩阵 CSSP 问题在数字线性代数中的应用和算法复杂度，并证明了其为 NP 完全问题。

    Jan, 2017

  • 通过校准子集选择改善筛选流程

    本文考察了筛选分类器能否提供独立于手动或训练方式构建的理论保证。我们发现目前的解决方案没有分布无关的理论保证，开发了一种分布无关的筛选算法 -- Calibrated Subset Selection（CSS），可以在任何分类器和某些校准数据的情况下找到包含所需合格候选人数量的最佳候选人短列表。实验验证了我们算法提供的清单优于几种竞争基线。

    Feb, 2022

  • 单指数模型中最佳子集选择的一致可扩展算法

    高维数据的分析引起了对单指数模型和最佳子集选择的日益关注，本文提出了第一个在高维单指数模型中具有可扩展性的证明可规模化的算法来进行最佳子集选择，该算法使用广义信息准则来确定回归系数的支持大小，消除模型选择调优。

    Sep, 2023

  • 稀疏主成分估计中的统计和计算折衷

    通过研究计算复杂性理论，发现在满足一定限制的协方差集中条件下存在有效的样本大小范围，在此范围内无法有随机多项式时间算法达到最佳极小风险率；对著名的半定松弛估计方法的理论性能进行研究，揭示了统计效率和计算效率之间微妙的相互作用，此方法为多维数据稀疏主成分分析提供了一种解决方案。

    Aug, 2014

  • 广义列子集选择的快速贪心算法

    本文定义了一般化的列子集选择问题，该问题涉及从源矩阵 A 中选择少量列，这些列最能逼近目标矩阵 B 的跨度，提出了一种快速贪心算法来解决这个问题，并与可以使用所提出的算法有效解决的不同问题建立联系。

    Dec, 2013

  • 高维变量选择

    本文讨论了在高维模型中进行变量选择时可以给出什么样的统计保证，并以某些多阶段回归方法的误差率和功率为例。我们考虑了三种筛选方法：套索、边际回归和前向逐步回归，提出了在某些条件下一致的变量选择方法。

    Apr, 2007

  • 高维特征空间变量选择的选择性概述（邀请评论文章）

    本文简要介绍了高维统计推断中变量选择的理论、方法和实现的最近发展，强调单峰罚函数的统计性质及其在高维统计建模中的作用，同时还回顾了独立筛选和两种方法在超高维变量选择方面的最近进展。

    Oct, 2009

  • 列子集选择、矩阵分解和特征值优化

    提出了一种基于随机列抽样的多项式时间算法，用于选择具有良好谱特性的矩阵子集，具有较高的计算效率和实用价值，并结合 Grothendieck 因子分解构造了一种新的近似算法，以计算矩阵的（无穷大，1）范数。

    Jun, 2008