Jun, 2024

优化眼科医生：通过稀疏生成器在初始化期间找到图像先验

PDF
TL;DR介绍了一种用于修剪和训练深度图像生成网络的最佳眼科医生 (Optimal Eye Surgeon, OES) 框架，使用自适应修剪网络的方法，实现低频图像组件和去噪图像的生成。
optimal eye surgeonpruningtrainingsparse-dipimage generation
发现论文，激发创造
  • 使用任何掩码更好地训练您的稀疏神经网络

    本研究提出了一种新的稀疏训练技术，使用 “幽灵” 神经元和跳跃连接等训练初始策略来提高性能和稳定性，适用于各种稀疏掩蔽方法下的深度学习网络

    Jun, 2022

  • 使用深度图像先验和学习正则化的压缩感知技术

    通过未经训练的深度生成模型提出一种新方法，解决压缩感知恢复问题，具有比以前的方法更好的性能，并且不需要大规模数据集的预训练。同时，结合了关于网络权重的先验知识的新型学习正则技术，减少了重建误差。最后，通过 DIP 优化方法，证明了适度超参数的单层神经网络可以完美拟合任何信号，这一理论结果为提前停止提供了依据。

    Jun, 2018

  • 稀疏专家混合模型的视觉扩展

    本文介绍了一种名为 Vision MoE 的稀疏版本的 Vision Transformer，在图像识别方面表现出色且需要的计算量较少。此外，本文还提出了一种路由算法的扩展来优化每个输入的处理，最终通过训练一个达到 153 亿参数的模型，V-MoE 成功实现了高度可扩展的视觉建模。

    Jun, 2021

  • 用于三维形态建模与重建的深度优化先验

    该研究提出了一种新的 3D 建模和重建学习框架，通过连接基于学习和基于优化的方法的优点并优化学习的先验和潜在编码，提高了深度生成器的广义性。实验结果显示，该方法在处理高度稀疏或坍塌的观测数据方面比现有方法都有优势。

    Dec, 2020

  • 深度图像先验

    本文研究了深度卷积神经网络用于图像生成和修复的方法，以及使用神经网络作为手工先验的能力，展示了这种方法在标准的逆问题中的卓越效果以及在检测深度神经网络表示和基于闪光和非闪光输入对图像进行修复方面的同等效果。

    Nov, 2017

  • 探索稀疏 Mixture of Experts 在基于文本的图像合成中的应用

    Aurora 是一种基于 GAN 的文本到图像生成器，利用一组专家进行特征处理学习，并使用稀疏路由器来选择每个特征点最合适的专家，以实现对采样随机性和文本条件的忠实解码，该模型在 64x64 图像分辨率下，使用 LAION2B-en 和 COYO-700M 数据集进行训练，在 MS COCO 上达到了 6.2 的零样本 FID 指标。

    Sep, 2023

  • 利用深度生成先验的盲图像去卷积

    该论文提出了一种使用深度生成网络作为先验进行盲图像去卷积（盲去模糊）的新方法，通过使用两个单独的生成模型以及卷积网络，我们提出了一种交替梯度下降方案，可在较大的模糊和噪声下获得有希望的去模糊结果，最终在更加多样化的自然图像数据集上获得了扩展应用。

    Feb, 2018

  • 在视觉 Transformer 中追求稀疏性：一次端到端的探索

    本文旨在从减小训练存储开销和推理复杂度的角度，提出一种先将 Vision transformers 稀疏化，然后再训练的方法，从而实现一定的加速效果并保持较高的精度。

    Jun, 2021

  • 更稀疏，更好，更深，更强：通过精确正交初始化改进稀疏训练

    提出了一种基于随机 Givens 旋转组合的精确正交初始化方案（Exact Orthogonal Initialization，EOI），该方法能够在静态稀疏训练中实现高效稀疏的 1000 层 MLP 和 CNN 网络的训练，突出了在静态稀疏训练中权重初始化和稀疏掩码选择的关键作用。

    Jun, 2024

  • 使用辨别性图像补丁在初始化时进行单次网络修剪

    本文提出了两种新的神经网络稀疏化方法：针对高级视觉特征进行剪枝的 DOP 方法和 Super Stitching 方法。通过大量实验发现，One-shot Network Pruning 需要数据的支持，并且 Super Stitching 在高度压缩的模型上具有显著的优势。

    Sep, 2022