kronecker product | BriefGPT

关键词kronecker product

搜索结果 - 10

量子快速速度与克罗内克积的谱逼近
本研究提出了一种创新的方法，通过将矩阵视为量子态来高效地处理 Kronecker 积的光谱近似问题，将时间复杂度显著降低为 O_{d,ε}(√n)。
PDF5 months ago
卷积神经网络在遥感场景分类中的 Kronecker 乘积特征融合
远程感知场景分类是一个具有挑战性和有价值的研究课题，其中卷积神经网络在其中发挥着至关重要的作用。本文提出了一种利用 Kronecker 积的新型特征融合算法，并讨论了与该算法相关的反向传播过程，实验证明了该方法在远程感知场景分类中提高卷积神
PDF6 months ago
KronA: 具有 Kronecker 适配器的参数高效调整
本研究提出一种基于 Kronecker 乘积的适配器模块 KronA 以提高预先训练的语言模型 fine-tuning 的效率，应用于 T5 模型的实验表明，该方法在 GLUE 基准测试中表现优于现有的 Parameter Efficien
PDF2 years ago
训练深度神经网络的实用拟牛顿方法
本文提出了一种使用 Kronecker 乘积近似 Hessian 矩阵和结构化梯度的 Kronecker 分块对角线 BFGS 和 L-BFGS 方法用于深度神经网络训练，通过测试验证其性能优于或与 KFAC 和一阶随机方法相当。
PDF4 years ago
通过 Kronecker 积实现更快的 Johnson-Lindenstrauss 变换
这项研究提出了一种基于 Kronecker 序列的嵌入矩阵快速生成技术，名为 Kronecker 快速 Johnson-Lindenstrauss 变换（KFJLT），能用于大规模 Kronecker 结构的最小二乘问题拟合的高效求解。
PDF5 years ago
使用 Kronecker 乘积将 RNN 压缩 15-38 倍，用于 IoT 设备
本文介绍了一种使用 Kronecker 乘积（KP）的方法来压缩适用于资源受限环境中的循环神经网络（RNN），KP 可以使 RNN 层的压缩率达到 15-38x，并且通过将其量化为 8 位可以进一步提高压缩因子至 50 倍，同时提高推断运行
PDF5 years ago
大规模高斯过程的思考
本文介绍了一种高效、可扩展的高斯过程（MSGP）的框架及其初步结果，该框架采用了 Kronecker 乘积和 Toeplitz 矩阵的分解并采用循环矩阵的近似，将 GP 的时间复杂度降至 O (n)，测试点的预测时间复杂度降至 O (1)。
PDF9 years ago
张量的构造性任意阶 Kronecker 积分解
本文提出一种张量 Kronecker 积奇异值分解算法并引入了对称张量的新概念，该方法可以计算出具有结构的张量的 Kronecker 积因子，从而进行多种不同结构的张量分解。
PDF9 years ago
使用克罗内克积压缩神经网络的全连接层
本文介绍了一种使用 Kronecker 积在神经网络的全连接层中减少参数和计算时间的技术，该技术将全连接层替换为 Kronecker 全连接层，能够在需要较小的预测质量折衷的情况下使参数总数减少 73%。
PDF9 years ago
Kronecker 图：一种网络建模方法
本文中介绍了一种名为 Kronecker graphs 的生成模型，可以截尾分布、小直径、密度增加和直径缩小等特性自动生成网络。使用 Kronecker 矩阵乘法结构和统计模拟技术，提出了一种快速、可伸缩的算法 KronFit，可用于拟合真
PDF16 years ago