大规模多样化数据的多项式隐式神经表示

CVPRMar, 2023

大规模多样化数据的多项式隐式神经表示

Polynomial Implicit Neural Representations For Large Diverse Datasets

Rajhans Singh, Ankita Shukla, Pavan Turaga

TL;DR本文提出了 Poly-INR 模型，通过使用多项式函数来消除位置编码的限制，为生成建模任务在复杂领域中采用 INR 模型铺平了道路。Poly-INR 模型在像 ImageNet 这样的大型数据集上进行了定性和定量评估，并表现出与最先进的生成模型可比的性能，可消除卷积、规范化或自注意力层，具有更少的可训练参数。

Abstract

implicit neural representations (INR) have gained significant popularity for signal and image representation for many end-tasks, such as superresolution, 3D modeling, and more. Most INR architectures rely on sinusoidal positional encoding, which accounts for high-frequency information

implicit neural representations positional encoding polynomial function generative modeling imagenet

发现论文，激发创造

Conv-INR: 多模视觉信号的卷积隐式神经表示

本文提出了 Conv-INR，这是第一个完全基于卷积的 INR 模型，相较于现有的基于多层感知机的 INR 模型，Conv-INR 具有更好的表示能力和可训练性，同时能够有效地学习邻近坐标和高频组成部分。通过广泛的实验验证了 Conv-INR 在图像拟合、CT/MRI 重建和新视角合成等四个任务中明显优于现有的基于多层感知机的 INR 模型，而且在不引入额外推理成本的情况下，还提出了三种进一步增强 vanilla Conv-INR 性能的重新参数化方法。

Jun, 2024

具地区感知和可推广性的隐式神经表示

提出了一种新的通用的内隐神经表示（INR）框架，结合了 transformer 编码器和可感知局部性的 INR 解码器，显著优于以往的通用的 INR，并验证了局部感知潜变量在图像生成等下游任务中的有效性。

Oct, 2023

MRI 并行重建的批量隐式神经表示

基于隐式神经表示的 MRI 重建方法通过引入嵌入尺度的编码器和多层感知机 (MLP) 实现了对完全采样的 MRI 图像进行任意尺度的重建，相比其他重建方法，在公开 MRI 数据集上表现出更好的性能。

Sep, 2023

基于隐式神经表示的形状深度学习

本文介绍了 Implicit Neural Representations (INRs) 的概念，并提出了 inr2vec 框架作为一种有效的在深度学习流程中解决 INRs 表示的下游任务的方法。

Feb, 2023

复数小波的隐式神经表示和代数

利用隐式神经表示 (INRs) 以欧几里得空间的多层感知器 (MLP) 对图像进行参数化，有效地在信号中表示了在常规离散表示中看不到的耦合空间和频谱特征，为以前不可能的连续信号处理和机器学习方法铺平了道路。本文研究了使用正弦激活函数的 INRs 在傅里叶理论方面的工作，并展示了与正弦函数相比，使用小波作为激活函数的优势，因为它们能够同时在频率和空间上进行本地化。我们在这项工作中探讨了这种 INRs，并演示了它们如何从 MLP 的第一层中进行粗糙逼近从而解析出信号的高频特征。这导致了多种 INR 架构设计的建议，包括使用复数小波，解耦低通和带通逼近以及基于所需信号奇点的初始化方案。

Oct, 2023

隐式神经表示的采样理论探索

隐式神经表示（INR）已成为计算机视觉和计算成像中解决反问题的强大工具。在线性反问题背景下，我们研究了使用单隐藏层 ReLU 激活和傅里叶特征层的广义权重衰减正则化方法，来从低通傅里叶系数恢复连续域图像的采样要求，验证了我们的理论，并展示了 INR 在超分辨恢复更实际的连续域幻影图像上的性能。

May, 2024

HyperINR: 一种快速预测的超网络，通过知识蒸馏实现隐式神经表示

本文引入 HyperINR，一种新颖的超网络架构，通过利用多分辨率哈希编码单元的集合，直接预测一个紧凑的 INR 的权重，从而提高了 INR 的推理性能和支持交互式虚拟现实。

Apr, 2023

HyperTime: 时间序列的隐式神经表示

本文利用隐式神经表示技术分析了时间序列数据的表示问题，并提出了一种基于傅里叶变换的损失函数来指导网络训练的超网络结构，用于生成时间序列数据。我们证明了这个方法可以用于时间序列数据的扩充与生成，并且在此领域达到了最先进的方法的水平。

Aug, 2022

重温低级视觉中的隐式神经表示

本文研究了隐式神经表达在低层视觉问题中的应用，包括图像去噪、超分辨率、修补和去模糊等任务，并在实验中证明了其在资源有限情况下超过其他方法 2dB 以上的卓越表现。

Apr, 2023

Rapid-INR: 使用隐式神经表示进行高效的无 CPU DNN 训练

本文提出了一种名为 Rapid-INR 的创新方法，利用 INR 对图像进行编码和压缩，从而加速计算机视觉任务中的神经网络训练；该方法可以将整个数据集直接存储在 GPU 上，并提出了迭代动态剪枝和逐层量化来进一步增强压缩效果，并在图像分类任务中证明了其可行性。

Jun, 2023