Apr, 2018

基于深度特征的几乎无损压缩在协作智能中的应用

PDF
TL;DR研究合作智能的新范式，提出了一种简单有效的接近无损的深度特征压缩器，在移动和云端之间分配网络以最小化系统的总能耗和 / 或延迟，同时探讨深度特征数据与自然图像数据之间的差异，并建议从压缩的深层特征中重建输入图像的方法，以补充深度模型所执行的推断。
collaborative intelligencedeep feature compressormobile-cloud infrastructureimage codecsdeep model inference
发现论文，激发创造
  • 深度特征压缩用于协同目标检测

    本论文探讨了在移动设备和云端之间进行特征数据通讯的 “协作智能” 范式，研究了损失压缩特征数据对协作物体检测准确性的影响，并提出了一种策略来提高其在损失特征压缩下的准确性。实验结果表明，采用该策略，通信开销可以降低 70％而不会牺牲准确性。

    Feb, 2018

  • 利用可压特征进行协同智能的多任务学习

    在此研究中，作者介绍了一种新的损失函数，旨在促进 feature 的可压缩性，而不会牺牲多个任务的系统性能，作者称之为压缩友好的丢失函数，实验结果显示，使用这种丢失函数，可以实现约 20％的比特率降低。

    Feb, 2019

  • 面向协作智能友好的深度学习架构

    本文提出了一种新的协作智能友好型架构，通过将移动设备上计算的中间特征卸载到云端以降低需要发送到云端的数据量，使得在 ResNet-50 模型上，相比现有的云端计算方法，端到端延迟和移动能耗分别平均提高了 53 倍和 68 倍，而精度损失不到 2%。

    Feb, 2019

  • 协作智能的神经网络特征张量轻量化压缩

    本研究介绍了一种轻量级的压缩技术，用于在边缘设备上进行代码的分割，仅针对深度神经网络中的激活，而且不需要任何重新训练。当应用于流行的对象检测和分类深度神经网络时，能够将 32 位浮点激活压缩到 0.6 至 0.8 位，同时保持精度损失不到 1％。

    May, 2021

  • 面向资源受限的边缘计算系统的受监督压缩

    本研究旨在通过利用知识蒸馏和神经图像压缩的思想，采用先进的监督压缩方法，使用带有随机瓶颈的教师模型和学生模型，以及可学习的熵编码先验方法来更高效地压缩深度学习的中间特征表示。我们在三个视觉任务上将我们的方法与各种神经图像和特征压缩基线进行比较，并发现我们的方法在保持端到端时延更小的情况下，实现了更好的受监督的率失真性能。我们还展示了学习到的特征表示可以调整为服务于多个下游任务。

    Aug, 2021

  • 多任务协同智能的比特分配

    本研究提出了第一种用于多流、多任务合作智能的比特分配方法，以率失真优化作为约束条件。与其他替代比特分配方法相比，实验结果表明了所提出的模式的优势。

    Feb, 2020

  • Grad-FEC: 协同智能中的深度特征不等误差保护

    本文介绍了一种新方法 —— 不等误差保护（ULP），通过特征重要性估算器来选择性应用前向纠错（FEC）码以保护重要的数据包以提高协同智能系统的鲁棒性和可靠性。

    Jul, 2023

  • 可扩展的人机点云压缩

    我们提出了一种专门为机器任务而设计的可扩展点云数据编解码器，基于 PointNet++ 的架构，并在 ModelNet40 数据集上进行了测试，显示了与之前的非专用编解码器相比显著的改进。

    Feb, 2024

  • 学习的点云压缩用于分类

    基于 PointNet 的新型点云编解码器，在机器任务分类中实现了更好的速率 - 准确性平衡，相对于非专用编解码器在 ModelNet40 数据集上达到了 94% 的降低 BD 比特率。对于低资源终端设备，我们提出了两种轻量级编码器配置，在 BD 比特率降低 93% 和 92% 的同时，仅消耗了 0.470 和 0.048 的编码器端 kMACs / 点，并降低了 3% 和 5% 的 top-1 准确率，为今后更复杂的任务和数据集提供了专用编解码器的潜力和基础。

    Aug, 2023

  • 可压缩特征的端到端学习

    为了解决传统基于信息熵的无损压缩方法在降维时效果不佳的问题，本文提出了一种基于学习的方法，可以同时优化特征的可压缩性和任务目标，从而生产一个更具压缩性的特征，同时提高其准确性。

    Jul, 2020