computational demands | BriefGPT

关键词computational demands

搜索结果 - 13

EMNLP聚焦核心：通过裁剪令牌压缩实现高效的文档分类注意力
通过结合令牌修剪和令牌合并的策略，我们在基于 Transformer 模型的基础上提出了改进的方法，既提高了模型的性能，又降低了计算需求。在各种数据集上的实验证明，与基准模型相比，我们的方法在准确度上提升了 5% p，F1 得分提升了 5.
PDFa month ago
NEPENTHE：基于熵的剪枝作为神经网络深度减少器
通过基于熵的剪枝方法（NEPENTHE），该研究旨在减少过参数化的深度神经网络的深度，以减轻计算负担，并在不影响性能的情况下线性化部分层。
PDF2 months ago
HCPM: 高效无检测器匹配的分层候选筛选
基于深度学习的图像匹配方法在计算机视觉中发挥了重要作用，但往往需要大量的计算资源。为了解决这个问题，我们提出了一种高效且无需检测器的局部特征匹配方法 HCPM，通过分层修剪来优化匹配流程。与依赖于粗略级别候选集进行匹配的最新无检测器方法不同
PDF3 months ago
MODIPHY：利用幻象卷积增强的 Faster YOLO 进行物联网的多模式遮挡检测
利用 YOO Phantom 模型和多模态数据集，本研究解决了物体检测在黑暗环境和遮挡场景中的问题，并在物联网平台上进行了实时目标检测的有效性测试。
PDF5 months ago
实现绿色机器学习服务的架构设计决策鉴别
通过分析机器学习模型在 ML 服务中的架构设计决策，识别与之相关的组件，与相关的技术栈，以及文献中研究的质量特征，包括能源效率，此研究旨在为研究者和从业者在提供模型时做出有环保意识的架构设计决策提供参考。
PDF5 months ago
WSDM动态稀疏学习：一种高效推荐的新范式
在深度学习推荐系统领域，我们引入了一种新的学习范式，Dynamic Sparse Learning (DSL)，通过动态调整模型的稀疏性分布和权重的重要性，从而在训练和推理过程中实现端到端的高效率，显著减少了训练和推理成本，同时提供可比较的
PDF5 months ago
LF-ViT：针对高效图像识别减少 Vision Transformer 中的空间冗余
该研究提出了一种名为 LF-ViT 的定位和聚焦视觉变换器模型，通过在定位阶段处理降低分辨率图像并在发现困难预测时触发内置的全局类注意机制，确定和聚焦类别区域，然后在聚焦阶段使用原始图像中的该区域增强识别能力，该模型有效地缩小了计算要求并提
PDF6 months ago
稳定扩散 XL 的渐进式知识蒸馏以层级损失
通过降低模型大小和知识蒸馏，我们引入了两种简化的 Stable Diffusion XL 模型 (SSD-1B 和 Segmind-Vega)，并证明了在保持高质量生成能力的同时减少模型大小的有效性。
PDF6 months ago
NU-Class Net：一种基于深度学习的视频质量增强新方法
该论文介绍了 NU-Class Net，一种创新的深度学习模型，用于减轻由有损压缩编解码引起的压缩伪影，从而显著提升低比特率视频的感知质量。
PDF6 months ago
DynaLay: 深度网络动态层选择的内省方法
深度学习模型 DynaLay 通过自适应地选择最合适的层数来处理每个输入，从而使模型具有独特的内省能力，优化了性能和效率，并同时显著降低计算需求。
PDF6 months ago
Weather4cast 2023 中定量降水预报的高效基准
精确的降水预测对各行各业的决策是不可或缺的，然而目前模型的计算需求引起了环境问题。本文针对精确的降水预测的关键需求，同时考虑了计算资源的环境影响，并提出了一种用于未来天气预测的基准架构 —— 简约 U-Net 架构。
PDF7 months ago
FLORA：用于视觉 Transformer 的细粒度低秩架构搜索
通过引入基于 NAS 的自动化框架 FLORA，本论文提出了一种用于降低计算负载的低秩逼近方法，通过低秩感知的候选过滤策略和低秩特定训练方法，实现了更精细的低秩配置，相比简单均匀配置可额外减少 33% 的操作次数，同时还展示了与压缩技术和紧
PDF8 months ago
效率十项全能：效率评估的标准竞技场
现代自然语言处理（NLP）系统的计算需求增加了最前沿研究的门槛，同时引发了严重的环境问题。然而，在模型效率方面取得进展却受到了模型评估和比较中的实际挑战的阻碍。为了应对这一问题，本文介绍了 Pentathlon，一个用于模型效率全面和现实评
PDFa year ago