量子隐式神经表示

ICMLJun, 2024

Quantum Implicit Neural Representations

Jiaming Zhao, Wenbo Qiao, Peng Zhang, Hui Gao

TL;DR我们提出了一种新颖的量子广义傅立叶神经网络（QIREN），其通过理论分析证明了比经典的傅立叶神经网络具有量子优势，并通过信号表示、图像超分辨率和图像生成任务的实验证明了 QIREN 相对于最先进模型的卓越性能。我们的工作不仅将量子优势融入了隐性神经表示中，还揭示了量子神经网络的一个有前景的应用方向。

Abstract

implicit neural representations have emerged as a powerful paradigm to represent signals such as images and sounds. This approach aims to utilize neural networks to parameterize the implicit function of the signal. However, when representing implicit functions, traditional neural netwo

implicit neural representations fourier neural networks quantum implicit representation network quantum advantage quantum neural networks

发现论文，激发创造

具有周期性激活函数的隐式神经表示

提出了一种新的神经网络模型 —— 正弦表示网络，可以用于处理带有细节特征的复杂信号及其导数，可以解决泊松方程、赫姆霍兹方程、波动方程等各种边界值问题，并且可以通过超网络学习 Siren 函数的先验知识。

Jun, 2020

单量子比特本地量子神经网络的能力和局限性

本文提出了一个理论框架，针对由替换编码电路块和可训练电路块组成的数据重新上传量子神经网络的表达能力进行研究，并证明了单量子比特量子神经网络可以通过将模型映射到部分傅里叶级数来逼近任何一元函数，并讨论了单量子比特本地 QNN 逼近多元函数的局限性。通过数值实验展示了单量子比特本地 QNN 的表达能力和局限性。

May, 2022

元学习稀疏隐式神经表示

本文提出了一种利用元学习思想和网络压缩技术相结合的方法，以达到在大量数据集上学习稀疏神经表达的目的，并表明与传统的密集神经网络相比，本方法在相同的参数规模下，能够更快地适应一系列未知信号从而使损失更小。

Oct, 2021

走向物理上可实现的量子神经网络

本文提出了一种基于带限傅里叶展开的量子感知器（QPs）转移函数的模型，用于设计可扩展的训练过程的量子神经网络（QNNs），并在其中添加了一种随机化的量子随机梯度下降技术，消除了样本复制的需要，并证明该训练过程期望收敛于真实最小值，这有助于提高数据效率和遵守禁止复制规则。

Mar, 2022

广义隐式神经表示法

研究了在非欧几里得域中学习隐式神经表征（INRs）的问题，介绍了一种利用图的谱嵌入来近似节点位置，并在各种真实世界的非欧几里得域的信号上进行了实验。

May, 2022

复数小波的隐式神经表示和代数

利用隐式神经表示 (INRs) 以欧几里得空间的多层感知器 (MLP) 对图像进行参数化，有效地在信号中表示了在常规离散表示中看不到的耦合空间和频谱特征，为以前不可能的连续信号处理和机器学习方法铺平了道路。本文研究了使用正弦激活函数的 INRs 在傅里叶理论方面的工作，并展示了与正弦函数相比，使用小波作为激活函数的优势，因为它们能够同时在频率和空间上进行本地化。我们在这项工作中探讨了这种 INRs，并演示了它们如何从 MLP 的第一层中进行粗糙逼近从而解析出信号的高频特征。这导致了多种 INR 架构设计的建议，包括使用复数小波，解耦低通和带通逼近以及基于所需信号奇点的初始化方案。

Oct, 2023

ReLUs 足以学习隐式神经表示

通过第二阶 B 样条小波的灵感，我们给深度神经网络 (DNN) 每一层的 ReLU 神经元引入一组简单的约束以修正其谱偏差，从而实现对各种隐式神经表示任务的有效使用。通过实验证明，与普遍观点相反，基于只包含 ReLU 神经元的 DNN 可以学习出最先进的隐式神经表示。我们利用最近关于 ReLU 神经网络学习函数类型的理论工作，提供了一种量化学习函数规则性的方法，为 INR 架构中的超参数选择提供了有原则的方法。通过在信号表示、超分辨率和计算机断层扫描等领域进行实验，我们验证了我们方法的多样性和有效性。所有实验的代码可以在此 URL 中找到。

Jun, 2024

使用傅立叶基数重新参数化训练改进的神经表征

利用傅里叶参数化方法可以更好地学习隐式神经表示并减少人工数据中的纹理和伪影

Jan, 2024

集成神经表示网络

本文提出了一种新的 INR 子优化集成架构来解决现有的训练过程冗长和计算资源占用高问题，该架构将表示任务分解成几个独立子网络完成，并建立了优化算法以找到子网络的最优结构。仿真结果表明，该架构具有更少的浮点运算次数和更短的训练时间，并在峰值信噪比方面具有比同类产品更好的性能。

Oct, 2021

大规模多样化数据的多项式隐式神经表示

本文提出了 Poly-INR 模型，通过使用多项式函数来消除位置编码的限制，为生成建模任务在复杂领域中采用 INR 模型铺平了道路。Poly-INR 模型在像 ImageNet 这样的大型数据集上进行了定性和定量评估，并表现出与最先进的生成模型可比的性能，可消除卷积、规范化或自注意力层，具有更少的可训练参数。

Mar, 2023