Aug, 2023

INR-Arch：隐式神经表达处理中的任意阶梯度计算的数据流架构与编译器

PDF
TL;DR本文介绍了一个硬件优化的数据流架构，用于将计算图形的高阶梯度转化为硬件优化；该架构通过设计一个使用 FIFO 流和优化计算内核库的数据流架构，并提出一个编译器来提取和优化计算图形，以实现最大吞吐量，同时确保无死锁操作，并输出 FPGA 实现的高级综合（HLS）代码，从而实现了 1.8-4.8 倍和 1.5-3.6 倍的加速比，以及较低的内存使用率和能耗延迟乘积。
nth-order gradientimplicit neural representationsfpga accelerationdataflow architectureinr editing
发现论文，激发创造
  • HyperINR: 一种快速预测的超网络，通过知识蒸馏实现隐式神经表示

    本文引入 HyperINR，一种新颖的超网络架构，通过利用多分辨率哈希编码单元的集合，直接预测一个紧凑的 INR 的权重，从而提高了 INR 的推理性能和支持交互式虚拟现实。

    Apr, 2023

  • Rapid-INR: 使用隐式神经表示进行高效的无 CPU DNN 训练

    本文提出了一种名为 Rapid-INR 的创新方法，利用 INR 对图像进行编码和压缩，从而加速计算机视觉任务中的神经网络训练；该方法可以将整个数据集直接存储在 GPU 上，并提出了迭代动态剪枝和逐层量化来进一步增强压缩效果，并在图像分类任务中证明了其可行性。

    Jun, 2023

  • 集成神经表示网络

    本文提出了一种新的 INR 子优化集成架构来解决现有的训练过程冗长和计算资源占用高问题，该架构将表示任务分解成几个独立子网络完成，并建立了优化算法以找到子网络的最优结构。仿真结果表明，该架构具有更少的浮点运算次数和更短的训练时间，并在峰值信噪比方面具有比同类产品更好的性能。

    Oct, 2021

  • HyperTime: 时间序列的隐式神经表示

    本文利用隐式神经表示技术分析了时间序列数据的表示问题，并提出了一种基于傅里叶变换的损失函数来指导网络训练的超网络结构，用于生成时间序列数据。我们证明了这个方法可以用于时间序列数据的扩充与生成，并且在此领域达到了最先进的方法的水平。

    Aug, 2022

  • 重温低级视觉中的隐式神经表示

    本文研究了隐式神经表达在低层视觉问题中的应用，包括图像去噪、超分辨率、修补和去模糊等任务，并在实验中证明了其在资源有限情况下超过其他方法 2dB 以上的卓越表现。

    Apr, 2023

  • INFusion: 基于扩散正则化的隐式神经表示用于二维和三维加速 MRI 重建

    INFusion 是一种技术，通过使用预训练的扩散模型，为基于学习的隐式神经表示（INRs）的优化提供正则化，以改善图像重建。2D 实验证明了使用我们提出的扩散正则化改进了 INR 训练的效果，而 3D 实验则证明了在 256x256x80 大小的 3D 矩阵上使用扩散正则化进行 INR 训练的可行性。

    Jun, 2024

  • 图像压缩的隐式神经表示

    本文从图像压缩的角度出发，探索了 INRs 的作用，提出了基于 INRs 的全面压缩流水线并进行了广泛的消融研究，结果表明，该方法表现优异，且与专门为图像设计的常用压缩算法竞争力相当，接近基于率失真自编码器的最新学习方法。

    Dec, 2021

  • 利用 Transformer 作为元学习器获取隐含神经表征

    使用 Transformer 作为超网络构建内隐神经表示，避免信息瓶颈和优化低效性，并在 2D 图像回归和 3D 对象视图合成等任务和领域中展示其有效性。

    Aug, 2022

  • 医学影像中的暗默神经表征：一项比较调查

    通过利用神经网络通过隐式连续函数参数化数据，隐式神经表示（INRs）在场景重建和计算机图形学中显示出显著结果，本论文综述了 INR 模型在医学成像领域的应用，并讨论了 INRs 的优势、局限性以及在医学成像数据中的挑战和考虑因素，同时提出了未来的研究方向和机会。

    Jul, 2023

  • Intel nGraph：深度学习的中间表示、编译器和执行器

    通过创建一个名为 Intel nGraph 的 C++ 库，支持各种深度学习框架和硬件平台，以实现深度学习性能的优化，包括 TensorFlow、MXNet 和 Intel neon 框架，以及多个硬件平台和编译器优化。

    Jan, 2018