Nov, 2021

iFlow: 通过统一编码器实现数值反转流的高效无损压缩

PDF
TL;DR本文介绍了使用归一化流实现高效无损压缩的新方法 iFlow, 该方法基于模块化缩放变换提出了一系列数值可逆流变换，同时引入了 Uniform Base Conversion System（UBCS）实现快速均匀分布编码，iFlow 实现了最先进的压缩比，并且比其他高性能方案快 5 倍。
neural compressionnormalizing flowslossless compressionmodular scale transformuniform base conversion system
发现论文，激发创造
  • 整数离散流与无损压缩

    本文提出了一种基于流的生成模型称为 “整数离散流”，该模型能够学习在高维数据上的丰富变换，并且能够采用可逆神经网络实现无损压缩，在 CIFAR10、ImageNet32 和 ImageNet64 上实现了最先进的无损压缩率。

    May, 2019

  • 使用仅限整数离散流的快速无损神经压缩

    本文提出了一种基于离散流和整数运算的高效神经压缩器，使用可学习的二进制门来消除推理过程中的冗余滤波器，在 ImageNet32 和 ImageNet64 上保持高压缩比的同时，使用 IODF 在 GPU 上的 TensorRT 实现实现推理速度比现有最快的神经压缩器快 10 倍。

    Jun, 2022

  • 基于归一化流的有损图像压缩

    本文介绍了一种使用正则化流技术的深度图像压缩方法，能够在保证低比特率的情况下实现接近无损的质量，相比传统图像压缩方法有更大范围的质量水平，并能够在多次编码后仍能保持一致的质量结果。此为首次探索正则化流用于有损图像压缩的研究成果。

    Aug, 2020

  • iVPF：数值可逆守恒体积流用于高效无损压缩

    本文研究体积保持流用于无损压缩，并提出了数值可逆体积保持流 (iVPF)。实验结果表明，基于 iVPF 的算法在轻量级压缩算法中达到了业内领先的压缩比

    Mar, 2021

  • IDF++：整数离散流的分析与改进以实现无损压缩

    本文研究和改进针对无损压缩的整数离散流。我们通过探究离散随机变量的可逆流是否比连续随机变量的更为灵活来开始分析，并通过证明发现此理论不适用于整数离散流。此外，我们研究了整数离散流中的梯度偏差效应，并通过实验证明其对模型的性能影响高度依赖于架构选择并不像先前想象的那样突出。最后，我们展示了不同架构修改如何改进该模型类别的性能并使其更加高效：我们发现具有一半数量流层的模型性能不亚于或者比原始整数离散流模型更好。

    Jun, 2020

  • 图像压缩的多尺度增强归一化流

    本文旨在提出一种创新的概念，将分层潜空间应用于增强式归一化流，建立可逆的潜变量模型，以解决许多学习型图像压缩方法的非可逆性问题。经过实验表明，本模型相较于单尺度模型，平均压缩率提高了 7% 以上。

    May, 2023

  • 基于局部比特回传编码的压缩流

    本文提出了一种用于流模型的新的压缩技术 —— 局部 Bits-Back 编码，并为许多流模型提供了高效的算法来实现该技术，实验表明该算法可以实现先进的流模型在高维数据上的理论码率。

    May, 2019

  • NanoFlow: 可扩展的归一化流，具有次线性参数复杂度

    本研究提出了一种名为 NanoFlow 的新参数化方案，可以使用单个神经密度估计器来模拟多个转换阶段，实现了可扩展的归一化流的新的参数有效解决方案。

    Jun, 2020

  • 有损压缩用于无损预测

    本文利用无监督目标设计神经压缩器进行图像压缩，以满足具有数据增强特征的所有预测任务的高性能，实现了大幅度节省数据率的效果，同时不会降低下游分类性能。

    Jun, 2021

  • i-flow：基于正则化流的高维度积分和抽样

    本文介绍了一种名为 i-flow 的 python 包，使用正则化流来实现高维数值积分和样本随机点的生成，通过与其他高维数值积分算法的比较，证明了 i-flow 的优越性，其代码公开在 gitlab。

    Jan, 2020