Mar, 2024

了解机器学习训练集中无损压缩的有效性

PDF
TL;DR对机器学习和人工智能在高性能计算中的应用，数据压缩对模型质量的影响以及现代有损压缩方法的优势进行了系统评估，指出了指导将来使用和设计有损压缩器的关键见解。
learning and artificial intelligencehigh performance computingdata compressionmodel qualitylossy compressors
发现论文，激发创造
  • 机器感知质量：评估严重有损压缩对音频和图像模型的影响

    神经数据压缩中，以机器为导向的压缩方式对于机器感知任务具有可行性，并且与深度相似度度量相关，在机器感知质量的发展中扮演重要角色。

    Jan, 2024

  • 有损压缩用于无损预测

    本文利用无监督目标设计神经压缩器进行图像压缩，以满足具有数据增强特征的所有预测任务的高性能，实现了大幅度节省数据率的效果，同时不会降低下游分类性能。

    Jun, 2021

  • 基于学习的有损图像压缩：综合调研

    本论文介绍了近年来利用机器学习架构进行图像压缩的技术与方法，主要包括自编码器、卷积神经网络、生成对抗网络等，并探讨了该领域仍需解决的问题。

    Jan, 2022

  • 深度学习中 JPEG 压缩缺陷的分析和缓解

    本文研究了 JPEG 压缩对常见计算机视觉任务和数据集的影响，发现高度压缩会显著损害图像识别性能，进而尝试采取几种方法来缓解该损害，其中包括一种不需标签训练的基于伪影校正的新方法。

    Nov, 2020

  • 基于深度学习的显微图像压缩：实证研究

    利用经典和深度学习的图像压缩方法对基于深度学习的图像处理模型进行分析并比较，表明深度学习的压缩技术在 2D 情况下在保持预测准确性的同时显著优于传统方法，并对图像压缩对下游深度学习图像分析模型的影响进行评估。

    Nov, 2023

  • 利用可压特征进行协同智能的多任务学习

    在此研究中，作者介绍了一种新的损失函数，旨在促进 feature 的可压缩性，而不会牺牲多个任务的系统性能，作者称之为压缩友好的丢失函数，实验结果显示，使用这种丢失函数，可以实现约 20％的比特率降低。

    Feb, 2019

  • 深度特征压缩用于协同目标检测

    本论文探讨了在移动设备和云端之间进行特征数据通讯的 “协作智能” 范式，研究了损失压缩特征数据对协作物体检测准确性的影响，并提出了一种策略来提高其在损失特征压缩下的准确性。实验结果表明，采用该策略，通信开销可以降低 70％而不会牺牲准确性。

    Feb, 2018

  • 神经数据压缩简介

    本文介绍了神经压缩的概念及其在数据压缩领域中的应用，首次完整回顾了信息论和计算机视觉的背景知识，并提供了一个文献综述，总结了目前领域内的主要意见和方法。

    Feb, 2022

  • 基础模型的无损和接近无损压缩

    我们研究了一种传统的模型压缩方法，即无损压缩，表明这种方法在流行的模型上可以显著减少网络和存储需求，并引入了一种可调节的有损压缩技术，进一步减小模型的大小。

    Apr, 2024

  • 视觉识别模型对图像压缩是否具有鲁棒性？

    本文研究图像压缩对图像分类、目标检测及语义分割等三种视觉识别任务准确性的影响。研究采用传统编解码器及最新的神经压缩方法进行实验，探究压缩比从 0.1 到 2bpp 下的识别准确度。实验发现，在强压缩下，三个任务的识别准确度都会受到显著影响。通过在压缩的训练图像上对识别模型进行微调，可以从一定程度上恢复性能损失。

    Apr, 2023