Oct, 2023

基于过拟合的图像压缩的频率感知再参数化

PDF
TL;DR通过在频域进行直接优化的离散余弦变换（DCT）卷积核加权求和的重新参数化方法，在低计算成本下，通过与 L1 正则化相结合，实现了显著改善的率失真性能，从而克服了过拟合图像压缩中的权重存储问题和实用性快速收敛困难。
over-fittingimage compressiondeep convolutional neural networksre-parameterizationfrequency domain
发现论文，激发创造
  • 频率规则化：约束卷积神经网络的信息冗余

    本文提出一种名为频率正则化的方法，在频域约束网络参数的非零元素，进而可以极大程度上压缩神经网络的参数，保证网络训练的同时提高计算效率和节约存储空间。通过在多种现有神经网络架构上的实证，验证了此方法在装备有 GPU 执行引擎的嵌入式设备场景下的优越性。

    Apr, 2023

  • 频率感知变换器用于学习图像压缩

    学习图像压缩 (LIC) 已成为近年来在图像存储和传输方面的有效解决方案，然而，现有的 LIC 方法存在潜在的表示冗余问题，限制了其对各向异性频率成分和方向细节的捕捉。为了克服这些挑战，我们提出了一种新颖的频率感知变换器 (FAT) 模块，首次实现了对 LIC 的多尺度方向分析。FAT 模块由频率分解窗口注意力 (FDWA) 模块组成，用于捕捉自然图像的多尺度和方向频率成分。此外，我们引入了频率调制前馈网络 (FMFFN)，以自适应调制不同频率成分，从而改善了速率失真性能。此外，我们还提出了基于变换器的通道级自回归 (T-CA) 模型，有效地利用了通道依赖性。实验证明，与现有的 LIC 方法相比，我们的方法在速率失真性能上达到了最先进的水平，并在 Kodak、Tecnick 和 CLIC 数据集上相对于最新的标准编解码器 VTM-12.1 提高了 14.5%、15.1% 和 13.0% 的 BD - 率。

    Oct, 2023

  • 压缩卷积神经网络

    本文介绍了一种名为 FreshNets 的新型神经网络体系结构，它利用学习模型的卷积层和全连接层中的固有冗余性以实现内存和存储消耗的显着节省，同时在压缩性能方面优于现有基线模型。

    Jun, 2015

  • 基于熵罚项重新参数化的可扩展模型压缩

    本文提出一种在神经网络中进行权重压缩的通用方法，利用潜变量重新调参，在学习过程中施加熵惩罚，并在训练后使用简单的算术编码器对其进行压缩，实现了模型的压缩和分类准确率的最大化。

    Jun, 2019

  • 基于样本核心集的神经网络压缩

    通过 Coreset 滤波器表示法，我们提出了一种 CNN 压缩算法，不需重新训练，易于实现，在量化和 Huffman 编码的支持下，训练出的网络可以在提供 AlexNet 精度的同时，内存占用只有原始 AlexNet 的 832 分之一，同时还能显著减少推理时间。此外，经过 Fine-Tune 后，这些压缩网络也能成功推广到其他领域。

    Jul, 2018

  • 学习卷积神经网络压缩的滤波器基础

    本论文提出基于卷积层中滤波器基的卷积神经网络参数数量缩减的方法，通过在多个 CNN 架构上对图像分类和图像超分辨率基准进行实验，结果表明该方法在减少参数和保持精确度方面优于现有技术。

    Aug, 2019

  • 用于学习多频图像压缩的广义定标卷积

    本文提出了基于 Octave 卷积的学习多频图像压缩和熵编码方法，将潜变量分解成高低分辨率分量，并通过新颖的广义 Octave 卷积结构减少了空间冗余，取得了超越标准编解码器与其他学习方法的压缩性能。此外，还演示了广义 Octave 卷积对于计算机视觉任务的性能提升效果。

    Feb, 2020

  • 频率导向变换的端到端优化图像压缩

    基于频率导向变换的端到端图像压缩模型能够提高图像压缩性能并保持语义相容性。

    Jan, 2024

  • 稀疏卷积神经网络的聚焦量化

    本文提出一种基于二次幂值的、专注于稀疏 CNN 的量化策略，并结合无损编码构建一种高压缩比、计算成本低、准确率几乎无损的压缩管线，在 ResNet-50 网络上实现 18.08x CR 的压缩效果，同时也证明更硬件有效。

    Mar, 2019

  • 卷积神经网络用于 JPEG 图像：计算成本研究

    通过评估解码和传递图像的计算成本，本文提出了适用于频域的深度模型的手工制作和数据驱动技术，以降低计算复杂性和参数数量，使其与 RGB 基线模型相似，从而实现计算成本和准确性之间的更好权衡。

    Sep, 2023