- FLoRA: N 维低秩核空间
本文介绍了针对不同维参数空间的一种广义参数高效微调框架 FLoRA,通过 Tucker 分解在保持与原始空间一致的拓扑结构的低秩核空间上建模变化,并将相关权重用于重构原始空间中的变化,从而有效地保留原始 N 维参数空间变化的结构完整性,同时 - 三维医学图像分割的训练后网络压缩:通过 Tucker 分解减少计算工作量
通过张量分解研究网络压缩的有效性,我们提出了一种后训练 Tucker 分解方法,以减少预先存在模型的计算要求,而不会影响分割准确性。这种方法能够在计算效率和分割质量之间提供可调节的权衡,并且适用于医学图像分割模型的计算需求降低。
- ALL0CORE 张量分解的稀疏计数数据
该论文介绍了 ALL0CORE,一种新型的概率性非负张量分解方法,它是一种具有 L0 约束核的 Tucker 分解方法,通过在推断过程中在核张量上分配非零元素的位置和值来实现。ALL0CORE 既具有 CP 分解的计算可行性,又具有 Tuc - 连续索引张量数据的功能贝叶斯 Tucker 分解
Tucker 分解是一种处理多方面数据的强大张量模型,本文提出了将其扩展到连续索引数据的功能性贝叶斯 Tucker 分解方法,使用高斯过程作为函数先验,并采用消息传递技术进行可扩展的后验近似计算。
- 超越平滑性:将低秩分析并入非参数密度估计
本文研究了在非参数密度估计中如何引入多视角潜变量模型,探讨了具有唯一一定的连续 Lipschitz 分量的多视角模型的普适一致直方图估计量存在,提出了基于 Tucker 分解的新的非参数潜变量模型,并在实验中发现相对于标准的直方图估计量,本 - ICMLLowFER: 针对链接预测的低秩双线性池化
本文提出了一种因子化双线性汇聚模型,与现有模型相比具有更好的融合实体和关系的效率,并且可以控制模型复杂度,取得了实际数据集上的最先进的表现。
- AAAI基于块汉克尔张量 ARIMA 的多个短时序列预测
本文提出了一种新的多时间序列预测方法,通过采用多重延迟嵌入变换(MDT)将时间序列表示为低秩块 Hankel 张量,并应用 Tucker 分解将高阶张量投影到压缩的核心张量中,然后在连续的核心张量上显式地使用广义张量自回归综合移动平均(AR - ADA-Tucker:透过自适应维度调节 Tucker 分解压缩深度神经网络
本文提出一种自适应的维度调整 Tucker 分解网络压缩方法(ADA-Tucker)和其扩展模型 Shared Core ADA-Tucker(SCADA-Tucker),通过学习的核心张量和转换矩阵,实现对高维张量的分解,以及在无需记录非 - 基于流数据的张量低秩 Tucker 近似
论文介绍了一种新的低 Tucker 秩逼近张量的算法,该算法采用随机线性映射来获得捕捉每个模式内重要方向及模式间交互的草图,并且可以通过流式数据或对张量进行一次传递来提取草图,同时它的存储量取决于 Tucker 逼近输出中的自由度,该算法不 - AAAI利用网络潜在张量分解进行渐进式多领域学习
本文提出了一种增量学习方法,基于 Tucker 分解来跨领域学习和任务学习,不会产生灾难性遗忘,此方法在 Visual Decathlon Challenge 的 10 个数据集上展现出了紧凑表示的效果和与其他方法相当的性能。
- NIPS低秩张量回归的近似最优素描
本文介绍了针对最小二乘回归问题的 CP 和 Tucker 分解模型,以及基于稀疏随机投影的数据降维技术,旨在减小模型参数数量和计算量。作者通过数值模拟得到了实验结果,证实了其理论的有效性。
- MUTAN: 视觉问答的多模态 Tucker 融合
本研究介绍了一种名为 MUTAN 的多模态张量分解方法,它可以有效地参数化视觉和文本表示之间的双线性交互作用,并引入低秩矩阵分解以限制交互秩。实验结果表明,该方法在视觉问答任务中具有较高的准确性。
- 在 CPU 和 GPU 上使用扩展 BLAS 核函数的张量缩并
本文提出了一种名为 STRIDEDBATCHEDGEMM 的 BLAS-like 原语,该原语可以在 CPU 和 GPU 上高效地执行各种张量收缩操作,并通过系统性基准测试证明了我们的方法相对于传统方法的优势。具体而言,我们实现了 Tuck - ICML低秩张量完成:一种黎曼流形预条件的方法
本文提出了一种基于 Riemann manifold 预处理的新型张量完成问题求解方式,通过利用代价函数的最小二乘结构和 Tucker 分解的结构对称性,提出了一种新的 Riemann 度量或内积,使得可以在商流形上使用 Riemannia - 面向移动应用的快速低功耗深度卷积神经网络压缩
提出了一种简单而有效的方案 —— 单次整个网络压缩,以在移动设备上部署深度卷积神经网络,并通过对各种压缩卷积神经网络在智能手机上的性能进行测试,证明了所提方案的有效性,可获得显著的模型尺寸、运行时间和能量消耗的降低,同时只付出了小量精度损失 - 大规模科学数据的并行张量压缩
本研究提出第一个能够在分布式内存上实现 Tucker 分解的并行算法,通过压缩科学模拟产生的大规模数据,尽量保持数据准确性。对使用该算法的真实数据集进行了压缩和精度分析,并提供了详细的性能结果,包括弱和强缩放实验中的并行性能。
- 张量填充的黎曼预条件
本文提出了一种新颖的基于 Riemann 预调节的张量补全方法,该方法使用了特定的内积方式,并利用了 Tucker 分解中结构对称性,证明了它在解决各种合成和真实世界数据集的问题时具有明显优势。
- 通过凸优化估计低秩张量
提出三种方法用于从部分观察中估计多维数组(张量)的 Tucker 分解,这些方法都可以自动估计因子数(秩),并采用凸优化进行求解,其中采用的主要技术是迹范数正则化,还提出了简单的启发式方法以提高因子分解的可解释性。通过合成和真实数据集上的数 - MACH: 快速随机张量分解
本文提出了一种新的采样算法 MACH,用于计算 Tucker 分解,能够有效地处理大规模,计算密集型和后期数据分析的多方面数据。