混合专家隐式神经压缩模型

Dec, 2023

MoEC: Mixture of Experts Implicit Neural Compression

Jianchen Zhao, Cheng-Ching Tseng, Ming Lu, Ruichuan An, Xiaobao Wei...

TL;DR用深度神经网络中参数对数据进行压缩的隐式神经表示（INR）是一种有前景的数据压缩技术，提出了一种基于专家组混合理论的新型隐式神经压缩方法 MoEC，通过自动分配 INR 给场景中的 3D 点，可以自适应地找到最佳分区并在海量多样的生物医学数据上实现了与现有方法相比的最新研究成果。

Abstract

Emerging implicit neural representation (INR) is a promising data compression technique, which represents the data using the parameters of a Deep Neural Network (DNN). Existing methods manually partition a comple

implicit neural representation data compression deep neural network mixture of experts biomedical data

发现论文，激发创造

通过专家混合训练构建神经隐式字典

该研究论文提出了一种能够通过基于坐标的子网络来构建神经隐式词典 (NID) 并代表内在神经表征的框架，通过优化结果能够更快地重建 2D/3D 图像并解决遮挡问题。

Jul, 2022

图像压缩的隐式神经表示

本文从图像压缩的角度出发，探索了 INRs 的作用，提出了基于 INRs 的全面压缩流水线并进行了广泛的消融研究，结果表明，该方法表现优异，且与专门为图像设计的常用压缩算法竞争力相当，接近基于率失真自编码器的最新学习方法。

Dec, 2021

隐式神经表示的无模态限制变分压缩

介绍了一种基于内涵神经表征（INR）的模态不可知神经压缩算法，使用变分压缩的方法优化了 INR 的表征能力，其在多种模态的数据集中表现出色，且在 JPEG 2000、MP3 和 AVC/HEVC 编码技术等领域实现了优于其他 INR 技术的性能。

Jan, 2023

多视图视频压缩的隐性 - 显性集成表示

通过隐式 - 显式混合编码和多层特征网格嵌入，我们提出了一种用于多视点视频压缩的方法，实验证明该方法在视点压缩和场景建模方面取得了与最新的多视点视频压缩标准 MIV 和其他基于隐式神经表示的方案相当甚至更好的性能。

Nov, 2023

资源有限设备中的快速隐式神经表示图像编解码器

通过引入新的混合自回归模型（MARM）和综合网络来显著减少当前 INR 编解码器的解码时间，并提高重建质量，该方法在保持图片质量的同时显著提高计算效率。

Jan, 2024

TINC：基于树结构的隐式神经压缩

本文提出了一种基于树形结构的隐式神经网络压缩技术（TINC），利用多层感知机（MLPs）来适应局部区域，组织成树形结构来共享参数，以提高数据压缩效率并消除局部和非局部冗余。实验表明 TINC 在 INR 数据压缩方面具有很高的灵活性和可扩展性，并比商业工具和其他深度学习方法表现更好。

Nov, 2022

元学习稀疏压缩网络

本文介绍了一种新的数据表示方法 —— 隐式神经表示法，经过结构优化后，可以对比 JPEG 等传统压缩方法得到更好的压缩效果，并提出了 Meta-Learning 算法在压缩和学习隐式神经表示方面的改进方法，实现了在不同数据模态下的卓越表现。

May, 2022

INCODE: 具有先验知识嵌入的隐式神经调节

INCODE 是一种利用深度先验知识增强 INR 中正弦基准激活函数的控制的新方法，它通过调整激活函数的关键参数来优化表示过程，不仅在表示方面出色，而且在处理音频、图像、3D 形状重建以及神经辐射场（NeRFs）和逆问题（包括降噪、超分辨率、修复和 CT 重建）等复杂任务方面具有突出表现，从而拓宽了信号表示的范围。

Oct, 2023

NERV++：一种增强的隐式神经视频表示方法

通过引入神经代表视频的 NeRV++，作为 NeRV 解码器架构的一种增强改进方法，使用可分离卷积残差块（SCRBs）和双线性插值跳跃层等特性，大幅提高了 INR-based 视频编解码的效果和表示能力，实现了与自动编码器基于视频编码相竞争的结果，迈向了 INR-based 视频压缩研究的重大进展。

Feb, 2024

Conv-INR: 多模视觉信号的卷积隐式神经表示

本文提出了 Conv-INR，这是第一个完全基于卷积的 INR 模型，相较于现有的基于多层感知机的 INR 模型，Conv-INR 具有更好的表示能力和可训练性，同时能够有效地学习邻近坐标和高频组成部分。通过广泛的实验验证了 Conv-INR 在图像拟合、CT/MRI 重建和新视角合成等四个任务中明显优于现有的基于多层感知机的 INR 模型，而且在不引入额外推理成本的情况下，还提出了三种进一步增强 vanilla Conv-INR 性能的重新参数化方法。

Jun, 2024