ICMLMay, 2024

非参数式隐式神经表征的教学

PDF
TL;DR通过使用超参数化的多层感知器（MLP）和非参数化教学角度，我们研究了隐式神经表示（INR）的学习。我们提出了一种名为隐式神经教学（INT）的范式，将 INR 学习视为一个非参数化的教学问题，通过选择信号片段进行迭代训练以实现快速收敛，在各种输入模态下展示了 30％以上的训练时间节约。
implicit neural representationmultilayer perceptronnonparametric teachingimage functionsinr training efficiency
发现论文，激发创造
  • Conv-INR: 多模视觉信号的卷积隐式神经表示

    本文提出了 Conv-INR，这是第一个完全基于卷积的 INR 模型，相较于现有的基于多层感知机的 INR 模型，Conv-INR 具有更好的表示能力和可训练性，同时能够有效地学习邻近坐标和高频组成部分。通过广泛的实验验证了 Conv-INR 在图像拟合、CT/MRI 重建和新视角合成等四个任务中明显优于现有的基于多层感知机的 INR 模型，而且在不引入额外推理成本的情况下，还提出了三种进一步增强 vanilla Conv-INR 性能的重新参数化方法。

    Jun, 2024

  • 广义隐式神经表示法

    研究了在非欧几里得域中学习隐式神经表征（INRs）的问题，介绍了一种利用图的谱嵌入来近似节点位置，并在各种真实世界的非欧几里得域的信号上进行了实验。

    May, 2022

  • MRI 并行重建的批量隐式神经表示

    基于隐式神经表示的 MRI 重建方法通过引入嵌入尺度的编码器和多层感知机 (MLP) 实现了对完全采样的 MRI 图像进行任意尺度的重建，相比其他重建方法，在公开 MRI 数据集上表现出更好的性能。

    Sep, 2023

  • 利用 Transformer 作为元学习器获取隐含神经表征

    使用 Transformer 作为超网络构建内隐神经表示，避免信息瓶颈和优化低效性，并在 2D 图像回归和 3D 对象视图合成等任务和领域中展示其有效性。

    Aug, 2022

  • 使用傅立叶基数重新参数化训练改进的神经表征

    利用傅里叶参数化方法可以更好地学习隐式神经表示并减少人工数据中的纹理和伪影

    Jan, 2024

  • 复数小波的隐式神经表示和代数

    利用隐式神经表示 (INRs) 以欧几里得空间的多层感知器 (MLP) 对图像进行参数化，有效地在信号中表示了在常规离散表示中看不到的耦合空间和频谱特征，为以前不可能的连续信号处理和机器学习方法铺平了道路。本文研究了使用正弦激活函数的 INRs 在傅里叶理论方面的工作，并展示了与正弦函数相比，使用小波作为激活函数的优势，因为它们能够同时在频率和空间上进行本地化。我们在这项工作中探讨了这种 INRs，并演示了它们如何从 MLP 的第一层中进行粗糙逼近从而解析出信号的高频特征。这导致了多种 INR 架构设计的建议，包括使用复数小波，解耦低通和带通逼近以及基于所需信号奇点的初始化方案。

    Oct, 2023

  • 通过专家混合训练构建神经隐式字典

    该研究论文提出了一种能够通过基于坐标的子网络来构建神经隐式词典 (NID) 并代表内在神经表征的框架，通过优化结果能够更快地重建 2D/3D 图像并解决遮挡问题。

    Jul, 2022

  • HyperINR: 一种快速预测的超网络，通过知识蒸馏实现隐式神经表示

    本文引入 HyperINR，一种新颖的超网络架构，通过利用多分辨率哈希编码单元的集合，直接预测一个紧凑的 INR 的权重，从而提高了 INR 的推理性能和支持交互式虚拟现实。

    Apr, 2023

  • 相变、距离函数和隐式神经表示

    该论文提出了一种新的损失函数用于训练无障碍神经表达模型，该方法受到流体相变理论的启发，并可以生成稠密函数以逼近真实的占用函数和距离函数，并可用于表面重建。

    Jun, 2021

  • 医学影像中的暗默神经表征：一项比较调查

    通过利用神经网络通过隐式连续函数参数化数据，隐式神经表示（INRs）在场景重建和计算机图形学中显示出显著结果，本论文综述了 INR 模型在医学成像领域的应用，并讨论了 INRs 的优势、局限性以及在医学成像数据中的挑战和考虑因素，同时提出了未来的研究方向和机会。

    Jul, 2023