tensor decomposition | BriefGPT

关键词tensor decomposition

搜索结果 - 99

通过舒尔多项式高效学习一层 ReLU 网络
本研究旨在研究使用标准高斯分布下的 ReLU 激活函数的线性组合进行 PAC 学习的问题，并提出了一种具有高效样本和计算复杂度的算法，其复杂度接近于相关统计查询算法类中的最优复杂度。该算法使用张量分解识别出一个子空间，使其在正交方向上的所有
PDFa year ago
行人属性识别的轻量级属性定位模型
该论文提出了使用张量分解（比如 CPD-EPC 算法）对行人属性识别模型（ALM）进行高效的层次压缩，在资源受限的嵌入式设备上实现高效的轻量级行人属性定位模型（LWALM）的目标。
PDFa year ago
Mixed-TD：具有层特定张量分解的高效神经网络加速器
本文提出了一种基于混合张量分解方法 (Mixed-TD) 将卷积神经网络 (CNN) 映射到 FPGA 上的框架，该方法采用了层特定的奇异值分解 (SVD) 和标准分解 (CPD)，每个 DSP 可以实现与最先进的 CNN 的 1.73x
PDFa year ago
任意阶 Faster Robust Tensor Power Method
本文提出一种新的张量幂法来分解任意阶张量，克服了现有方法的局限性，应用草图方法能够在幂次 p 和维数 n 的张量上实现运行时间的 O ~（n ^ p-1）~ 。
PDFa year ago
ST-GIN：基于时空图注意力和双向循环联合神经网络的交通数据填充不确定性量化方法
本文提出一种创新的深度学习方法来填充交通数据中的缺失值，采用图形关注架构和双向神经网络来捕捉交通数据中的空间和时间相关性，实验结果表明该方法优于所有基准技术，展示了其有效性。
PDFa year ago
自适应拓扑张量网络用于多视角子空间聚类
本文提出一种自适应拓扑张量网络（ATTN）来用于多视角子空间聚类，通过分析自表示张量中不同模式的高阶相关性，剪枝虚弱相关关系的链接，从而表现出更好的张量表征能力，并应用贪婪自适应秩增加策略来提高低阶结构的捕获能力。实验结果表明，基于 ATT
PDFa year ago
神经网络模型简化的张量分解：一篇综述
该研究论文综述了六种张量分解方法及其在神经网络中的应用，说明使用这些方法可以明显地减少模型的大小，运行时间和能耗，在边缘设备上实现神经网络时效果显著。
PDFa year ago
使用轻微上下文敏感文法进行非监督式不连续成分句法分析
研究语法诱导，使用线性无上下文重写系统进行无监督不连续解析，将文法形式限制为二元 LFCRS 并使用张量分解与参数化规则概率得到大量非终端符号，从而能够诱导出具有连续和不连续结构的语言学意义的树。
PDF2 years ago
HEAT: Transformer 压缩的硬件高效自动张量分解
本文提出了 HEAT 硬件感知张量分解框架，通过硬件感知的协同优化，实现了对参数冗余的降维和的自动调节，能够达到更好的能效比和精度。
PDF2 years ago
Tensor4D：高保真动态重建和渲染的高效神经 4D 分解
Tensor4D 是一种高效而有效的动态场景建模方法，通过 4D 张量分解来直接表示动态场景，并通过不同尺度上的分解进一步实现动态构建和渲染。在合成和现实世界场景中验证了其效果，具有高质量的动态重建和渲染功能。
PDF2 years ago
STN：一种新的张量网络方法，用于从大脑活动模式中识别刺激类别
提出了一种刺激约束的张量脑模型，将张量分解模型与刺激类别约束信息相结合，用于解码带有语义信息的目标刺激，实验结果表明该模型相对于其他方法提高了 11.06％到 18.46％的准确性。
PDF2 years ago
TensorAnalyzer：利用非负张量分解识别大城市的城市模式
本文提出基于张量分解的一种新方法来从多个数据源中检测最相关的城市模式，与经典方法相比，该方法的性能得到了验证，有效地识别了功能模式以表征数据集以获得良好的聚类质量，并通过实验和案例研究证明了该方法的有效性和实用性。
PDF2 years ago
ICML非参数因子轨迹学习动态张量分解
该研究提出了一种名为 “NONFAT” 的方法，它使用高斯过程先验和稀疏变分学习算法来实现动态张量分解，以分析伴随有时间信息的多维数据，并应用于多种实际应用中。
PDF2 years ago
使用张量分解从口语产生的 EEG 记录中去除语音伪影
本论文提出了一种使用三模张量分解方法来去除语音伪影的方法，该方法在大片说话任务中比基于独立成分分析 (ICA) 和盲源分离 (BSS) 的方法表现更好，并且能够正确地保留与语音无关的组分。
PDF2 years ago
STN: 通过结构感知训练和自适应压缩实现可扩展的张量网络
本文提出了适用于任意网络架构的可扩展张量网络（STN），通过一种数据驱动的方法动态和自适应地调整模型大小和分解结构，从而达到更高的压缩性能和灵活性，综合实验结果表明其在参数效率方面表现优异。
PDF2 years ago
基于张量分解的高阶汇聚图神经网络
本研究提出了一种新的 Graph Neural Networks 模型 ——Tensorized Graph Neural Network（tGNN），采用张量分解来模型高阶非线性节点交互和计算图形表征，并在节点和图分类任务中得到了超越竞争
PDF2 years ago
ICLR探索预训练语言模型的极端参数压缩
探索利用张量分解实现更大的压缩比率来压缩 BERT 模型的研究，取得了可接受的性能损失并显著提高了推理效率，最高压缩至原模型的 1/48，且在 GLUE 基准测试中取得了与原模型相当或略优的表现，该方法相对于蒸馏等现有的压缩方法独立有效。
PDF2 years ago
PIE：大规模知识图谱嵌入推理的参数和推断效率解决方案
本论文提出一个参数和推理有效的知识图谱嵌入方法 PIE，通过张量分解方法将实体嵌入矩阵分解成低秩矩阵以减少模型复杂度，同时提出了一种自监督辅助任务用于微调实体类型以加速模型推理，在链接预测基准测试中取得了显著效果。
PDF2 years ago
MEKER: 内存高效的知识嵌入表示用于链接预测和问答
文章提出一种基于三阶二进制张量分解的知识图谱表示，利用一种特定于数据的广义 CP-ALS 算法来降低训练时的内存开销，从而实现高效的记忆友好型知识表示，该方法在链接预测和基于知识图谱的问答任务中达到了与最佳现有算法相当的性能表现。
PDF2 years ago
利用低秩和模型无关表示进行时间知识图谱推理
介绍了一种基于张量分解的时间知识图谱补全方法 (Time-LowFER)，并提出了一种模型无关的、更广义的时间特征表示方法，实验表明该方法的表现与当前先进的语义匹配模型相当或更好。
PDF2 years ago