embedding compression | BriefGPT

关键词embedding compression

搜索结果 - 10

轻量级基于嵌入的推荐系统的全面性能基准测试
这项研究通过全面的基准测试过程，对轻量级嵌入式推荐系统（LERSs）的性能、效率和跨任务可转移性进行了调查，并提出了一种高效的嵌入式压缩方法，采用幅度剪枝，克服了现有复杂 LERSs 方法的竞争力，并揭示了 LERSs 在协同过滤和基于内容
PDF11 days ago
用于高效再识别的嵌入式压缩
这篇论文研究了针对现实世界中物体再识别（ReID）算法的嵌入式压缩技术，通过量化感知训练和三种不同的降维方法（迭代结构化剪枝、初始化时对嵌入进行切片以及使用低秩嵌入）进行了压缩性能评估，发现嵌入可以压缩高达 96 倍，且性能下降较小，这意味
PDFa month ago
教师到学生知识迁移的嵌入式压缩
使用可压缩的嵌入模块来改进知识蒸馏方法，以提高分类性能并增强学生模型的泛化能力。
PDF5 months ago
CAFE：面向大规模推荐模型的紧凑、自适应、快速嵌入
本文提出了一种紧凑、自适应和快速的嵌入式压缩框架 CAFE，旨在同时满足内存效率、低延迟和适应动态数据分布的三个关键设计要求。CAFE 采用快速轻量级的 HotSketch 数据结构实时捕捉特征重要性并报告热门特征，通过哈希嵌入技术，为非热
PDF7 months ago
大规模可学习向量存储压缩的实验分析
我们对嵌入向量的压缩进行了全面的比较分析和实验评估，引入了一个新的分类法，并开发了一个模块化基准测试框架，评估了 14 种代表性方法，从而为不同内存预算下的使用情形推荐了最佳方法。此外，我们的研究还揭示了当前方法的局限性，并提出了未来研究的
PDF7 months ago
使用词典筛选的嵌入压缩进行文本分类
本文提出了一种用于文本分类任务中的嵌入式压缩字典筛选方法，该方法使用特定的递归神经网络模型训练完整字典来评估每个关键字的重要性，并评估每个关键字对预测类别概率的影响来筛选最重要的关键字。得到一个极大程度压缩的新字典，从而大幅减小了原始文本序
PDF2 years ago
MorphTE: 在张量嵌入中注入形态学
利用张量积的强大压缩能力，我们提出了一种具有形态增强的单词嵌入压缩方法（Morphologically-enhanced Tensorized Embeddings，MorphTE），并在机器翻译等任务上进行了实验。实验表明，MorphTE
PDF2 years ago
使用哈希的嵌入压缩技术，用于大规模图表现学习的高效方法
通过使用压缩方法，我们可以将节点嵌入用比浮点向量更紧凑的向量表示，从而实现在工业级规模的图形数据上快速训练图神经网络，同时达到更好的性能。
PDF2 years ago
学习压缩嵌入，为设备内推理提供支持
提出一种新型的多嵌入压缩方法 MEmCom，利用哈希和可训练权重分别构建两个嵌入表来同时实现对嵌入表的压缩和各实体对应独特嵌入的映射，该方法在多个问题类别上超过现有技术，并在压缩嵌入大小的同时实现与非压缩嵌入相近的区分能力。
PDF2 years ago
EMNLP利用蒸馏非线性神经分解改进词嵌入分解以进行压缩
本文介绍了一种基于低秩矩阵分解和知识蒸馏的输入 / 输出嵌入压缩方法，提出的方法简单易实现，具有更高的 BLEU 分数和更低的语言模型困惑度，适用于机器翻译和语言建模。
PDF5 years ago