MintNet:使用掩蔽卷积构建可逆神经网络
本研究展示了传统的 ResNet 模型可以被做成可逆的,这意味着同一个模型可以同时用于分类、密度估计和生成。令人惊讶的是,我们的方法只需要在训练时增加一个简单的归一化步骤,而不需要将维度分割或限制网络结构。作为一种生成模型,可逆的 ResNet 可以通过无标签数据的最大似然估计进行训练。为了计算似然,我们引入了一个可计算的对余块 Jacobian 行列式对数的近似值。实验证明,可逆 ResNet 在严格意义下表现出色,达到了同一个架构内同时具有现有最先进图像分类器和流式生成模型的性能。
Nov, 2018
通过 i-RevNet 网络的可逆性证明了深度卷积网络并不需要通过逐步丢弃输入信息来学习代表信息以获得泛化能力,并通过线性插值对模型学习到的信息进行了解释。
Feb, 2018
通过使用一种新的网络模型,即条件可逆神经网络,我们可以对特定条件下的自然图像生成进行有效的前处理,以便于训练出不会出现模式崩溃并生成多样化图像的模型。同时,我们利用双向 cINN 架构探索和操作潜在空间的新特性,例如通过直观方式改变图像风格。
Jul, 2019
本文提出了一种具有恒定内存的迭代逆模型,利用可逆网络避免存储中间激活数据,可以在 MRI 图像重建任务中训练具有 400 层的模型,并在公共数据集上证明这些更深、更具表现力的网络实现了最先进的图像重建。
Nov, 2019
介绍了一种新的结构,称为条件可逆神经网络(cINN),并将其用于解决自然图像的多样化图像到图像的转化任务。cINN 结合了纯生成 INN 模型和一个无限制的前馈网络,有效地将调节图像预处理为最大信息特征。通过最大似然优化,稳定地联合优化 cINN 的所有参数。利用双向 cINN 结构,进一步探索和操作潜在空间的新兴属性,例如以直观的方式更改图像风格。
May, 2021
这篇论文利用深度神经网络逆向低维人脸嵌入并生成高质量真实的图像,探索了两种方法,通过引导图像使用梯度上升方法生成一致性良好的图像和通过训练单独的神经网络一次性解决最小化问题来实时生成图像,并对神经网络与梯度下降进行对比实验。
Jun, 2016
本文研究了可逆神经网络的数值稳定性,发现常用结构存在逆爆炸现象及无法逆运算等问题,针对不同问题提出了逆问题的解决方法,证明了构建稳定可逆神经网络是重要的。
Jun, 2020
论文讨论卷积神经网络近似可逆性及其在稀疏信号恢复方面的数学模型,并给出一种精确的模型基础压缩感知与其恢复算法和随机权重 CNN 的连接。作者通过实验得出多个学习网络与数学分析一致,以简单的理论框架合理地重构实际图片。同时,作者也探讨了我们的模型假设与实际场景分类训练的 CNN 之间的差距。
May, 2017
该论文提出了一种基于 IMN 的人脸隐私保护方法,该方法利用 Mask 网络生成 “Mask” 人脸,从而保护面部信息的可重用性,经实验证明,其不仅可以有效保护面部信息的隐私,而且几乎可以完美地从被蒙面的脸中恢复受保护的脸。
Apr, 2022