PatchSVD:一种基于非均匀 SVD 的图像压缩算法
本文提出一种基于随机投影与有限阶多项式拓展计算奇异值分解嵌入的压缩光谱嵌入算法,其降维效果与计算复杂度不受特征向量数量影响。此算法对聚类和分类等下游推断任务的对比相似度度量具有较好效果。
Sep, 2015
本文考虑一种流式数据模型,通过计算奇异值分解和草图矩阵,获得与原始数据矩阵非常接近的奇异值和奇异向量。同时,将其应用于流图算法来近似计算具有低秩的计算机网络图 Laplacian 的特征值和特征向量。
Nov, 2012
使用 Cloud K-SVD 字典学习算法通过节点网络在 Kubernetes 中训练,可实现多个节点上的互相学习及图像恢复,并去除噪声,无论在任何节点,其共享的字典可以用于恢复特定的图像。
Mar, 2023
通过扩展支持向量数据描述(SVDD)的深度学习变体,我们使用自监督学习构建基于补丁的方法来实现图像异常检测和分割,并在 AUROC 上展示了比以往最先进方法提高了 9.8%和 7.0%的检测和分割性能。
Jun, 2020
通过重新设计算法以监督学习的方式操作,本文针对 K-SVD 图像去噪算法提出了一种基于深度学习的端到端架构,并在优化去噪方面进行了训练,以克服将 K-SVD 方案变为可微分的机器并学习的困难。结果表明,该算法在保留原始 K-SVD 精髓的同时,仅需少量参数学习,就能显著优于经典的 K-SVD 算法,接近于最新的基于学习的去噪方法。
Sep, 2019
本研究提出了一种高效的算法,叫做球形归一化奇异值分解 (SVD),用于稳健的奇异值分解近似,对异常值不敏感、可扩展的计算,提供准确的奇异向量估计。该算法通过仅使用标准降秩奇异值分解算法对适当缩放的数据进行两次计算,实现了显著的计算速度,并在计算时间上明显优于竞争算法。为评估估计奇异向量及其子空间的稳健性,我们引入了矩阵型输入的新的破坏点概念,包括按行、按列和按块的破坏点。理论和实证分析表明,与标准 SVD 及其修改相比,我们的算法具有更高的破坏点。我们在高维微阵列数据集的鲁棒低秩逼近和鲁棒主成分分析等应用中,经验地验证了我们方法的有效性。总体而言,本研究提供了一种高效且稳健的 SVD 近似解决方案,克服了现有算法在异常值存在时的局限性。
Feb, 2024
我们提出了一种加权奇异值分解压缩 Transformer 的语言模型的方法,该方法考虑了神经网络参数的不平等重要性,并解决了没有封闭形式解决方案的非凸优化问题。实验结果表明,相较于传统的 SVD 方法,在压缩 Transformer 的语言模型时,我们的方法可以获得更好的效果。
Nov, 2022
本文提出了一种将权重剪枝和奇异值分解相结合的方法来优化目标检测模型,作者通过与原始模型在帧率、mAP@50 和模型大小等方面性能的对比令其表现更加优越,进而证明该方法可以在保持准确性、速度和模型大小平衡的基础上有效地优化目标检测模型。
Mar, 2023
本文介绍了随机 SVD 方法的推广版,使用多元高斯向量代替标准高斯向量进行矩阵 - 向量乘积,以允许将先前的知识加入算法中,进而探索基于高斯过程函数的 Hilbert-Schmidt(HS)算子的随机 SVD 的连续模拟。文中提出了一种新的基于加权 Jacobi 多项式的协方差核,从而使随机生成的函数具有良好的平滑性,再通过数值实验证明其适用性。
May, 2021
提出了一种基于基线相关的有损压缩技术,可以将能见度数据进行压缩,并且利用矩阵秩的关系以及低秩逼近的方法来描述原始数据,并将其表示为基线数据矩阵的集合,其中每个基本分量分别对应于天空分布的特定傅里叶分量。该方法可以有效压缩数据并且在空间分辨率和噪声降低方面有所改进,其中 MeerKAT 和欧洲长基线干涉仪网络被用于评估和比较所提出的方法。
Apr, 2023