Oct, 2023

INCODE: 具有先验知识嵌入的隐式神经调节

PDF
TL;DRINCODE 是一种利用深度先验知识增强 INR 中正弦基准激活函数的控制的新方法，它通过调整激活函数的关键参数来优化表示过程，不仅在表示方面出色，而且在处理音频、图像、3D 形状重建以及神经辐射场（NeRFs）和逆问题（包括降噪、超分辨率、修复和 CT 重建）等复杂任务方面具有突出表现，从而拓宽了信号表示的范围。
发现论文，激发创造
  • 基于隐式神经表示的形状深度学习

    本文介绍了 Implicit Neural Representations (INRs) 的概念，并提出了 inr2vec 框架作为一种有效的在深度学习流程中解决 INRs 表示的下游任务的方法。

    Feb, 2023

  • 通过专家混合训练构建神经隐式字典

    该研究论文提出了一种能够通过基于坐标的子网络来构建神经隐式词典 (NID) 并代表内在神经表征的框架，通过优化结果能够更快地重建 2D/3D 图像并解决遮挡问题。

    Jul, 2022

  • Conv-INR: 多模视觉信号的卷积隐式神经表示

    本文提出了 Conv-INR，这是第一个完全基于卷积的 INR 模型，相较于现有的基于多层感知机的 INR 模型，Conv-INR 具有更好的表示能力和可训练性，同时能够有效地学习邻近坐标和高频组成部分。通过广泛的实验验证了 Conv-INR 在图像拟合、CT/MRI 重建和新视角合成等四个任务中明显优于现有的基于多层感知机的 INR 模型，而且在不引入额外推理成本的情况下，还提出了三种进一步增强 vanilla Conv-INR 性能的重新参数化方法。

    Jun, 2024

  • 具地区感知和可推广性的隐式神经表示

    提出了一种新的通用的内隐神经表示（INR）框架，结合了 transformer 编码器和可感知局部性的 INR 解码器，显著优于以往的通用的 INR，并验证了局部感知潜变量在图像生成等下游任务中的有效性。

    Oct, 2023

  • 超网构建音频的隐式神经表示

    HyperSound 是第一种利用超网络进行元学习的方法，用于生成适合于音频样本的 INRs，以解决现有方法难以应用于音频的局限性，提供了一种可行的代替深度神经网络中当前用于音频处理的声谱图表示方法，并且重新构建的音频样本质量可与其他最先进的模型相媲美。

    Feb, 2023

  • 大规模多样化数据的多项式隐式神经表示

    本文提出了 Poly-INR 模型，通过使用多项式函数来消除位置编码的限制，为生成建模任务在复杂领域中采用 INR 模型铺平了道路。Poly-INR 模型在像 ImageNet 这样的大型数据集上进行了定性和定量评估，并表现出与最先进的生成模型可比的性能，可消除卷积、规范化或自注意力层，具有更少的可训练参数。

    Mar, 2023

  • HyperTime: 时间序列的隐式神经表示

    本文利用隐式神经表示技术分析了时间序列数据的表示问题，并提出了一种基于傅里叶变换的损失函数来指导网络训练的超网络结构，用于生成时间序列数据。我们证明了这个方法可以用于时间序列数据的扩充与生成，并且在此领域达到了最先进的方法的水平。

    Aug, 2022

  • 复数小波的隐式神经表示和代数

    利用隐式神经表示 (INRs) 以欧几里得空间的多层感知器 (MLP) 对图像进行参数化，有效地在信号中表示了在常规离散表示中看不到的耦合空间和频谱特征，为以前不可能的连续信号处理和机器学习方法铺平了道路。本文研究了使用正弦激活函数的 INRs 在傅里叶理论方面的工作，并展示了与正弦函数相比，使用小波作为激活函数的优势，因为它们能够同时在频率和空间上进行本地化。我们在这项工作中探讨了这种 INRs，并演示了它们如何从 MLP 的第一层中进行粗糙逼近从而解析出信号的高频特征。这导致了多种 INR 架构设计的建议，包括使用复数小波，解耦低通和带通逼近以及基于所需信号奇点的初始化方案。

    Oct, 2023

  • 使用有条件解码器增强视频的神经表示

    通过引入条件解码器与熵最小化技术，该研究提出了一种通用增强框架，成功提升了隐式神经表示在视频存储与处理中的效果，并在多个基线模型上展现了优越的重建质量和收敛速度，为视频回归、修复和插值任务提供了一种强大的技术。

    Feb, 2024

  • HyperSound: 使用超网络生成音频信号的隐式神经表示

    本研究提出了一种基于超网络元学习的方法，用于生成未训练音频信号的隐式神经表示（INRs），并展示了其重建声波信号的优秀性能。

    Nov, 2022