dequantization | BriefGPT - AI 论文速递

关键词dequantization

搜索结果 - 6

PaddingFlow：通过填充维度噪声改进标准化流
PaddingFlow 是一种新颖的去量化方法，通过在流模型中引入填充维度噪声，克服了正则化流模型在具有流形或离散数据时的性能问题，并在无条件密度估计的主要基准测试和条件密度估计的 IK 实验中展示出改进性能。
PDF4 months ago
通过 SplitK 工作分解，加速 W4A16 量化推断的 Triton 融合核
我们提出了一种高效的融合矩阵乘法核实现，用于 W4A16 量化推理，通过使用 SplitK 工作分解在一个融合的核心中执行去量化和 GEMM。我们的实现对于基础模型推理负载中的瘦矩阵乘法表现出改进。具体来说，本文调查了瘦激活矩阵和方形权重矩
PDF6 months ago
在 GPU 上实现快速 2 位硬件离线量化低内存映射：内存对齐、稀疏离群值和异步解量化
通过以较小的计算代价解决对大型语言模型（LLMs）进行量化和去量化操作时所面临的问题，我们提出了一种新的技术，并在不同模型和尺寸上进行了广泛实验，成功实现了每个权重的 2.85 位表示，模型的端到端加速比为 1.74 倍，同时降低了运行成本
PDF7 months ago
HDRUNet: 使用去噪和去量化技术进行单图高动态范围图像重建
本文提出了一种基于学习的方法，使用空间动态编码器 - 解码器网络，HDRUNet，通过去噪和去量化来实现单张图像的高动态范围重建，提出了 Tahn_L1 损失函数，获得了最先进的性能。
PDF3 years ago
通过去量化学习离散分布
本文提出了一种通用的去量化框架，其中包含了现有方法的一些特殊情况，通过添加加性噪声来实现深度学习中的分布建模。作者还引入了两种新的去量化目标：重要性加权去量化和 Rényi 去量化，以及一种更灵活的去量化分布 —— 自回归去量化（ARD）。
PDF4 years ago
基于采样的次线性低秩矩阵算法框架来去量子化量子机器学习
提出了一种基于量子思想的经典算法框架，用于解决接近低秩矩阵问题并快速实现量子算法的经典版本，证明了量子 SVT 框架并不能提供指数级的速度提升，并给出了该框架的多种经典化结果。
PDF5 years ago