compression rate | BriefGPT

关键词compression rate

搜索结果 - 11

高斯森林：压缩场景建模的分层混合 3D 高斯飞溅
介绍了高斯森林建模框架，该框架通过在复杂区域中进行详细表示并显著减少所需的高斯模型数量，从而实现了与现有方法相媲美的速度和质量，并且在压缩比方面取得了 10 倍以上的显著进展。
PDF21 days ago
循环上下文压缩：高效扩大 LLM 的上下文窗口
使用递归上下文压缩方法（RCC）有效地扩展了基于 Transformer 的大型语言模型 (LLMs) 的上下文窗口长度，解决了模型回应质量变差的问题，并以接近 0.95 的 BLEU4 得分在文本重建任务中实现了高达 32 倍的压缩率，以
PDF24 days ago
OpenBA-V2：使用快速多阶段剪枝达到 77.3% 的高压缩比
通过采用先进的训练目标和数据策略，OpenBA-V2 以最小的性能损失将 LLMs 压缩为更小的模型，这在资源有限的场景中有助于部署 LLMs。
PDF2 months ago
用于地球观测中数据高效下游训练和推断的压缩多任务嵌入
基于神经压缩学习的神经嵌入压缩技术（NEC）通过将压缩的嵌入向量传输给数据使用者而不是原始数据，以降低地球观测数据模型训练和推理的转移和存储成本。通过学习神经压缩技术，我们实现了多任务嵌入向量的生成，并在压缩率和嵌入向量效用之间寻找平衡。我
PDF3 months ago
在图流中平衡摘要和变化检测
该研究通过在基于最小描述长度原则的基础上，引入概率隐变量模型的分层结构，设计了参数化摘要图，以解决图摘要压缩率与变化检测准确性之间的平衡问题，并通过理论框架和实证分析证明了其有效性。
PDF7 months ago
塑造效率：为设备推理修剪医学图像模型
应用机器学习进展于医疗可以改善患者结果，但是模型操作复杂性、遗留硬件和多模态千兆像素图像等问题限制了实时、设备内推理的部署。我们考虑滤波剪枝作为解决方案，在心脏病学和眼科学中探索分割模型。我们的初步结果显示最高可达 1148 倍的压缩率，质
PDF10 months ago
ICML自动调优压缩的私有联邦学习
提出了一种新的技术，用于在私有联邦学习中降低通信量，而无需设置或调整压缩率。我们的实时方法根据训练过程中引入的误差自动调整压缩率，同时通过使用安全聚合和差分隐私保证可证明的隐私保护。我们的技术在均值估计中可以证明是最优的，这意味着它们可以根
PDFa year ago
自适应稀疏结构的剪枝和再生在脉冲神经网络中的应用
本文提出了一种适应性结构发展的 SNN 方法，引入树突棘突触可塑性、神经元修剪和突触再生，通过神经元修剪、突触限制和突触再生等机制，检测和移除了 SNN 的大量冗余，实现了优化压缩并降低网络能耗。在实验中表明，该方法可以在不同任务中学习适当
PDF2 years ago
使用合成事实评估自动文本摘要
提出了一种新的自动文本摘要评估系统，该系统可以基于事实一致性、综合性和压缩率来测量任何文本摘要模型的质量，该评估系统是第一个基于真实性、信息覆盖和压缩率来衡量摘要模型总体质量的系统。
PDF2 years ago
SIGIR使用压缩率统一跨语言摘要和机器翻译
通过提出 Cross-lingual Summarization with Compression rate (CSC) 的创新任务，并通过有效的数据增强方法来产生不同压缩率的文档摘要对，从而提高 Cross-Lingual Summari
PDF3 years ago
ECCVREPrune: 通过代表选举进行滤波裁剪
本研究提出一种名为 REPrune 的新颖剪枝方法，通过聚类选择代表性滤波器，从而获得更好的压缩率并提高精度。实验证明，REPrune 方法可以在保持相似精度的情况下，减少 49% 的 FLOPs。
PDF4 years ago