compute cost | BriefGPT - AI 论文速递

关键词compute cost

搜索结果 - 7

THaLLE: 文本超本地增强大语言扩展 -- 技术报告
我们介绍了金融分析领域的大型语言模型的最新进展和应用，并介绍了通过 Fine-tuning 技术，在模拟 Chartered Financial Analyst 考试上取得最佳性能的 8B 大型语言模型。我们还引入了 Flare CFA 数
PDF25 days ago
RepCNN: 微型、强大的唤醒词检测模型
利用重新参数化的技术，我们展示了一个小型卷积模型在推断过程中提供了低延迟和高准确性的权衡，且具有较低的内存占用和计算成本。我们的重新参数化模型在准确性方面提高了 43%，而与单分支卷积模型相比具有相同的运行时间。与复杂结构如 BC-ResN
PDFa month ago
利用语义视觉先验解释视觉和语言生成模型
使用 SHAP 为基础的框架，可以在具有语义先验的视觉背景下提取任意数量的特征，从而可生成高度有意义的视觉解释并达到比传统方法更低的计算成本及更好的语义表达能力。
PDFa year ago
大型语言模型的后训练量化综合研究
通过数万次的零 - shot 实验，我们对后期训练量化 (PTQ) 的各种组成成分和效应进行了全面的研究，发现细粒度量化和 PTQ 方法是获得良好准确性所必需的，并且粗粒度量化的高比特位（例如，5 比特）比非常细粒度量化的低比特位（例如，4
PDFa year ago
Random-LTD: 随机和分层标记丢弃为大型 Transformer 带来高效训练
提出了一种新的随机层级令牌丢弃方法（“random-LTD”），通过跳过中间层中的一个子集输入令牌的计算，达到了与标准训练基线相当的准确性和显著的加速效果，可应用于更广泛的应用，并可节省约 33.3％的计算成本和 25.6％的墙钟培训时间。
PDF2 years ago
ICLRIGLU：通过延迟更新实现高效的 GCN 训练
本文介绍了一种基于缓存 GCN 中间计算结果的方法 IGLU，从而实现懒惰更新和降低计算成本，并通过对 Benchmark 实验的测试得出 IGLU 相对于标准 SGD 方法可以减少高达 88% 的计算量，并提升 1.2% 的准确度。
PDF3 years ago
将视频分析系统扩展至大型摄像机部署
本文介绍了如何通过利用视频流之间的空间和时间内容相关性，解决大规模视频摄像头部署中计算成本与推断准确性等问题，进行视频分析扩展的路线图。
PDF6 years ago