Jan, 2024

神经网络的零空间特性及其在图像隐写术中的应用

PDF
TL;DR本文探讨神经网络的零空间特性，扩展了线性到非线性映射的零空间定义，并讨论了神经网络中的零空间存在。我们利用零空间的部分来欺骗神经网络，揭示了神经网络的内在弱点。我们描述了一种图像隐写术的应用，并通过在 MNIST 等图像数据集上的实验表明，我们可以利用零空间成分来强制神经网络选择一个选定的隐藏图像类别，即使整体图像看起来完全不同。最后，我们比较了人类观察者所看到的图像和神经网络实际用于进行预测的图像部分，证明神经网络 “看到” 的与我们预期完全不同。
发现论文，激发创造
  • 神经网络的空间空值分析异常检测

    本文提出一种名为 NuSA 的方法，通过计算和控制神经网络中的零空间投影大小，成功地将异常样本检测方法整合到分类模型中，实现对异常情况的精确识别。实验表明，使用 NuSA 训练的网络既能保持其分类性能，同时也能以类似于常用异常值检测算法的速率检测异常值。

    Jul, 2020

  • 利用向量空間和逆映射理解影像分析的神經網路系統

    利用线性代数中的技术对神经网络层进行建模，并引入可逆网络的概念和算法，实现了特定输出的输入图像的计算。

    Feb, 2024

  • 卷积神经网络隐写分析在隐写术中的应用

    本文提出一种新方法，在最小化失真的标准下，提高图像隐写术的性能界限。该方法利用隐写分析卷积神经网络框架来理解图像的模型，并在不易被探测的区域进行嵌入以保留模型。实验结果表明，在广泛的低相对负载范围内，与 HUGO、S-UNIWARD 和 HILL 等最先进的隐写分析技术相比，所提出的算法表现优异。

    Nov, 2017

  • 逆问题的深度空间学习：收敛分析和速率

    本文介绍了一种称为 Null Space Networks 的新型网络结构，提出了概念 M 正则化，并通过将它与标准正则化方法结合使用，讨论了两阶段深度学习方法在逆问题求解中的实践和理论难点，同时指出 Null Space Networks 自然地保留了数据一致性特征。

    Jun, 2018

  • 通过迭代零空间投影来保护受保护属性

    我们提出了一种名为迭代零空间投影 (INLP) 的新方法，它基于线性分类器的训练，通过在空间中进行映射，以消除神经表示中的特定属性，并减少了词嵌入中的偏见，提高了多类分类的公平性。

    Apr, 2020

  • 具有线性抵消的元学习器

    本研究提出了一种利用线性转换器的元学习算法，该算法进行神经网络输出的零空间投影。其主要思想是构造一种替代分类空间，使得在 few-shot 学习期间，错误信号可以在该空间上迅速归零，从而实现低数据的可靠分类。查询的最终决策是利用网络输出和参考向量之间的空间投影距离来获得的，这两者都是在初始学习阶段中训练的。在给定模型大小的已知方法中，我们的元学习器在 Omniglot 和 miniImageNet 数据集上实现了最佳或接近最佳的图像分类精度。

    Jun, 2018

  • 神经网络的迷人特性

    本论文在研究深度神经网络的高层特性时，发现高层单元与随机线性组合之间没有明显差别，并得出神经网络学习的输入输出映射具有不连续性以及网络可被微小扰动误分类等结论。

    Dec, 2013

  • 量化过拟合：通过零空间分析评估神经网络性能

    研究如何在没有访问训练数据或知道其准确性的情况下，使用测试数据来量化过度拟合的神经网络中的空值，并发现在过度拟合和普遍化不佳的模型中有特定的空间特征，以保证方法的隐私性和普适性。

    May, 2023

  • 深度特征空间：几何视角

    本文提出了一种新的方法，用于可视化和理解神经网络输出层之前的向量空间，旨在揭示分类任务下的深层特征向量属性，特别是过拟合现象在特征空间中的本质和其对进一步应用的负面影响，并对其进行了真实应用场景的评估，证明了其突出性能优势。

    Jun, 2020

  • 基于不确定性感知的零空间网络用于数据一致图像重建

    本文提出了一种结合深度网络和不确定性量化的反问题求解方法，旨在通过估算与输入相关的比例映射来评估重建质量，并成功地在医学成像领域等多个应用中实现了图像重建与加速 MRI 重建等挑战性任务。

    Apr, 2023