acceleration | BriefGPT - AI 论文速递

关键词acceleration

搜索结果 - 70

GraphSnapShot: 快速存储和检索的图机器学习加速
我们最近的研究中，我们开发了一个名为 GraphSnapShot 的框架，该框架已被证明是图学习加速的有用工具。GraphSnapShot 是一种用于图学习的快速缓存、存储、检索和计算的框架。通过快速存储和更新图结构的本地拓扑，它允许我们跟
PDF9 days ago
OPT-Tree：具有自适应草稿树结构的猜测解码
OPT-Tree 算法通过构建自适应和可扩展的缓冲树结构，实现了一步生成多个标记，从而解决了自回归语言模型中推理效率受限的问题。该算法优于现有的缓冲结构，与自回归解码相比，实现了最高 3.2 倍的加速比。
PDF9 days ago
开放问题：梯度下降的逐步收敛速度
通过改变步长序列，可以加速原始的梯度下降方法，并导致不断增大的误差，因此我们提出了一个问题：是否存在可以在任意停止时间下加速经典的 $\mathcal {O}(1/T)$ 收敛速度的梯度下降步长安排？
PDF15 days ago
渐进无偏样本采样加速尖锐感知最小化
使用渐近无偏采样技术加速 Sharpness-Aware Minimization (SAM) 优化算法，提供超过 70% 的加速效果，同时保持性能。
PDF22 days ago
CTC 和转录器 ASR 模型的快速上下文偏见和基于 CTC 的词识别器
通过 CTC-based Word Spotter 实现快速的上下文偏置识别，加速上下文偏置识别的同时提高了 F-score 和 WER，方法已经在 NVIDIA NeMo toolkit 中提供。
PDF23 days ago
P$^2$-ViT: 完全量化的视觉变换器的二次幂后训练量化和加速
Vision Transformers（ViTs）在计算机视觉任务中表现卓越，但它们在资源受限设备上的部署受到内存消耗和计算密集性的挑战。为了解决这个限制，我们提出了第一个适用于 P2-ViT 的后训练量化和加速框架，通过专门的量化方案有效
PDFa month ago
GKT：一种面向高效云边协同 LLM 部署的基于导向的知识转移框架
通过指导式知识迁移，我们引入了一种新颖而直观的框架来加速大型语言模型，在不断提高性能的同时保证了效率和实惠性。该框架能够无需微调，无需教师和学生模型具有相同的词汇，实现广泛的批量生成，且可轻松集成到各种模型中，同时在准确性和处理速度上实现了
PDFa month ago
xTern: 在基于 RISC-V 的边缘系统上的高能效三值神经网络推理
Ternary neural networks offer superior accuracy-energy trade-off, and the xTern extension of the RISC-V instruction set
PDFa month ago
利用机器学习模型加速多层级马尔可夫链蒙特卡洛
利用多层次马尔可夫链蒙特卡洛 (MCMC) 抽样算法的低保真机器学习模型，本文提出了一种有效的方法来加速大规模问题的抽样。通过在层次结构框架中将高保真模型与低保真模型相结合，我们的方法提供了一种计算高效的替代方案，以改善样本的接受率。我们的
PDF2 months ago
GCV-Turbo: 基于 FPGA 的 GNN 计算机视觉任务的端到端加速
GCV-Turbo 是一款基于 FPGA 的领域特定加速器，用于端到端加速基于图神经网络的计算机视觉任务，可以提供高性能加速并支持独立的 CNN 或 GNN 执行。
PDF3 months ago
Hash3D：3D 生成的免训练加速
Hash3D 是一个通用的加速方法，通过采用自适应网格哈希和特征共享机制，在 3D 生成任务中加速扩散模型的推断过程，提高生成速度、平滑度和视角一致性。与 5 个文本到 3D 和 3 个图像到 3D 模型的实验相比，Hash3D 能够以 1
PDF3 months ago
用于加速推测解码的最佳块级草稿验证
我们提出了一个更好的草稿验证算法，通过块级最优输送问题来实现，与令牌级别验证算法相比，在一系列任务和数据集中节约了墙钟速度。
PDF4 months ago
RACE-SM: 基于强化学习的社交出口匝道合并的自主控制
提出了一种基于学习的新型加速和换道决策模型，该模型明确考虑了自我车辆及周围车辆的效用，以产生社会可接受的行为。仿真结果表明，考虑周围车辆在奖励函数设计中的重要性，并直接考虑并道对周围车辆的影响，该模型在避免事故、近距离避开和反社会行为方面与
PDF4 months ago
eCIL-MU：基于嵌入的增量类学习和机器遗忘
本研究提出了一种基于嵌入技术的非破坏性 eCIL-MU 框架，用于在动态环境中实现类别增量学习和类别级机器遗忘。实验证明该框架能够实现遗忘效果，并具有加速效果（最高达到 278 倍）。
PDF6 months ago
高效 NeRF2NeRF：利用多视角对应增强的扩散模型简化文本驱动的 3D 编辑
通过将对应关系正则化引入扩散模型，可以显著加快 3D 编辑过程，该方法使得在大多数情况下与基线方法相比速度提高了 10 倍，并在 2 分钟内完成了 3D 场景的编辑。
PDF7 months ago
Turbo: 信息驱动的加速插件用于视觉语言模型
本文通过研究数据冗余性，设计并提出了一种基于信息度的 Turbo 模块，用于从视觉或文本数据中剪裁低效的令牌，以实现 Vision-Language Large Models 的加速，同时较少性能损失。
PDF7 months ago
DiffusionTalker：基于语音驱动的 3D 脸部扩散器的个性化与加速
利用对比学习进行个性化三维面部动画生成和知识蒸馏以加速动画生成的扩散式方法 DiffusionTalker 优于现有方法。
PDF7 months ago
REST: 基于检索的推测解码
通过检索式推断解码（REST），可以加速语言模型的生成，实验证明这种方法在代码或文本生成中可以实现 1.62 倍至 2.36 倍的显著加速。
PDF8 months ago
AiluRus：一个用于密集预测的可扩展 ViT 框架
通过自适应分辨率和聚类算法，提出一种用于处理密集预测任务中长序列的视觉 Transformer 方法，实现对低分辨率和高分辨率区域的区分，从而加速模型并获得有希望的表现。
PDF8 months ago
加速概率测度空间的优化
在机器学习应用中，梯度优化方法的加速是一个实际和理论上感兴趣的问题。大多数研究关注欧几里得空间上的优化，但鉴于在许多机器学习问题中需要在概率测度空间上进行优化，研究在这个背景下的加速梯度方法很有意义。为此，我们介绍了与欧几里得空间中基于矩的
PDF9 months ago