Jun, 2020

多尺度深度平衡模型

PDF
TL;DR我们提出了一种新的隐式网络类别，即多尺度深度平衡模型（MDEQ），适用于大规模高度分层的模式识别领域。这种方法可以同时解决多个特征维度的平衡点，并且可以用于多种任务和损失函数，例如使用单个 MDEQ 同时执行图像分类和语义分割。在 ImageNet 分类和 Cityscapes 数据集高分辨率图像的语义分割任务上，我们展示了此方法的有效性。
multiscale deep equilibrium modelimplicit differentiationpattern recognitionimage classificationsemantic segmentation
发现论文，激发创造
  • 深度平衡模型

    本文介绍了一种新的应用于序列数据建模的方法 —— 深度平衡模型，并比较其在大规模语言模型任务上的性能，该方法可通过求解根来直接获取固定点，训练和预测所需的内存只需常数级别，大大减少了存储消耗。

    Sep, 2019

  • 流式多尺度深度平衡模型

    StreamDEQ 是一种使用隐式层模型连续推断每帧视频表示且利用先前帧的表示作为初始条件的方法，通过实验证明，StreamDEQ 在几帧的实验时间内准确地恢复了近乎最优的表示，并且可以在视频显示期间保持最新的表示。

    Apr, 2022

  • 通过雅各比正则化稳定平衡模型

    本文提出一种正则化方案来加强深度均衡网络（DEQ）模型的学习稳定性，该正则化方案显著提高了 DEQ 模型的收敛速度和性能，使得 DEQ 模型与传统深度网络在速度和性能上保持相当，并且具有恒定的内存占用和简单的架构。

    Jun, 2021

  • 深度平衡模型的高效训练

    本篇文章介绍了一个简单而有效的策略，通过 Broyden's Method 的 Jacobian 估计来避免 DEQ 网络层的反向传播过程中需要解决的昂贵 Jacobian-based 方程。实验证明，仅通过再次使用此估计，就能显著加速训练同时不会导致任何性能退化。

    Apr, 2023

  • 单调算子平衡网络

    本文开发了一种基于单调算子理论的新类别的内部层数模型，即单调算子平衡网络（monDEQ），通过带有保证和稳定收敛的高效求解器来解决难以稳定收敛和缺乏唯一解保证的传统的内部层数问题，该模型的参数化能确保所有算子保持单调性，从而保证存在独特的平衡点，并在多尺度卷积等结构化线性算子上实现了多个版本的这些模型，性能均明显优于基于神经 ODE 的模型，且更加高效。

    Jun, 2020

  • 正凸深层均衡模型

    通过引入一种名为正凹深度平衡 (pcDEQ) 模型的新型 DEQ 模型类，通过基于非线性 Perron-Frobenius 理论的方法强制非负权重和激活函数，可以简化训练过程并且保证了固定点的存在和唯一性，进而解决了 DEQ 模型存在的固定点唯一性和收敛性问题，实验证明了 pcDEQ 模型在隐式模型中的竞争力。

    Feb, 2024

  • 多层特征融合的尺度均衡

    通过注入尺度均衡器来解决平行分支多级特征之间的尺度失衡问题，并在各种数据集和解码器选择中提高了平均交并比指数。

    Feb, 2024

  • 深度平衡物体检测

    通过设计深度平衡解码器，我们提出了一种新的基于查询的目标检测器（DEQDet），能够通过一系列解码器层逐步完善查询向量，直接预测物体位置和类别。通过不精确梯度反向传播（RAG）和改进的深度监督方案（RAP），我们的 DEQDet 相较于基准模型（AdaMixer）收敛更快，内存占用更少，并取得了更好的性能表现。在 MS COCO 基准测试下，我们的 DEQDet 使用 ResNet50 骨干网络和 300 个查询达到了 49.5 mAP 和 33.0 AP$_s$，训练方案为 2 倍（24 epochs）。

    Aug, 2023

  • 学习鲁棒的深度平衡模型

    本篇论文中，我们提出了一种新的深度学习模型，称为 LyaDEQ，通过 Lyapunov 稳定性理论，确保了 DEQ 模型的稳定性，并可以在面对初始扰动时保持其鲁棒性。我们对这种模型进行了评估，并在针对不同数据集的对抗攻击中展示了其在对抗防御方面的显着改进。

    Apr, 2023

  • TorchDEQ：深度均衡模型库

    这篇研究论文介绍了一种称为 Deep Equilibrium (DEQ) 模型的隐式模型新类别，并提出了 TorchDEQ 库，该库能够在多个领域上定义、训练和推断使用 DEQ 模型，通过结合最佳实践，显著提高了 DEQ 模型在十个数据集上的性能、训练稳定性和效率。

    Oct, 2023