该研究讨论了基于 Subsampled Randomized Hadamard Transform(SRHT)的低秩矩阵逼近技术在 Frobenius 和谱范数下的有效性,并在矩阵操作方面得出了一些结果,这可能具有独立的兴趣。
Mar, 2012
本文中,我们通过分析在线性支持向量机分类的背景下使用 Subsampled Randomized Hadamard Transform (SRHT) 的效果,提出了重要性采样和确定性 top-r 采样,以产生有效的低维嵌入而不是均匀采样 SRHT。此外,我们还提出了一种新的受监督的非均匀采样方法,并在六个实际数据集上展示了我们提出的方法比 SRHT 和其他随机投影方法具有更高的分类精度。
Feb, 2020
本论文提出了一种新的降维算法,基于理论可以保持数据从独立子空间联合采样的独立假设,通过实验证明其与流行的降维技术相比,能够实现最先进的效果。
Dec, 2014
本文研究了在解决变量数量和数据点数量都很大的有限和最优化问题的 Newton 法的背景下,两种数据空间维数缩减方法:Hessian 子采样和随机 Hadamard 变换。通过一系列数字实验和 Hessian 子采样方法的复杂性分析,揭示了使用共轭梯度方法相对于随机梯度迭代方法的优势。
May, 2017
该论文研究了一类随机降维映射及其在高维随机几何学中的新普适性,证明在特定数据集上降维成功的概率存在相变现象,从而为数值线性代数算法、压缩感知、随机线性编码等提供了设计原则,并在随机实验设计下为统计估计方法的性能提供了启示。
Nov, 2015
提出了一种新的高维随机优化方法,将坐标下降法推广到随机子空间,证明了使用自适应采样策略的随机子空间可以显著优于最近文献中常见的盲目采样方法,可以通过相关随机矩阵集合有效生成自适应子空间;在具有不同谱衰减的数据矩阵上验证了该方法在机器学习问题中的速度优势,包括逻辑回归、带随机卷积层的核分类和具有修正线性单元的浅神经网络。
Jun, 2019
研究了如何利用随机超平面对区域进行均匀的镶嵌,并利用超平面将欧氏空间中的有界集嵌入哈明空间中,从而实现对欧氏空间中集合的离散化降维。
Nov, 2011
研究论文通过研究快速执行和数据利用的算法,探索了大型模型和数据利用的有效维度减少策略,以及提高泛化和分布鲁棒性的数据增强方法。
Oct, 2023
本文提出了利用次高斯矩阵进行欧几里德降维的理论,该理论统一了先前针对特定数据集获得的几个限制等距性和约翰逊 - 林登斯特劳斯类型结果。特别是,我们恢复了并在多种情况下改进了关于稀疏向量、结构化稀疏向量、低秩矩阵和张量、平滑流形集合的结果。此外,本文还为采用 Hilbert 空间子空间无限并形式的数据集建立了新的约翰逊 - 林登斯特劳斯嵌入。
Feb, 2014
本篇论文介绍了如何通过构造一个低维对称正定矩阵流形来解决高度计算成本的难题,并进一步提出了一种处理高维对称正定矩阵的算法,以此来实现降维,最后在多个分类任务中验证了该方法的有效性。
May, 2016