Oct, 2021

对抗鲁棒性的激活函数参数化

PDF
TL;DR通过采用可学习的参数激活函数（PAFs），我们研究了使用 PSSiLU 以提高加性训练鲁棒性的影响。我们发现，PAFs 优化了影响鲁棒性的激活函数形状属性，而且仅引入 1-2 个可学习参数的光滑 PAFs 可以显著地提高鲁棒性。
deep neural networksadversarial trainingparametric activation functionsrobustnesspssilu
发现论文，激发创造
  • Padé 激活单元：在深度网络中端到端学习灵活的激活函数

    本文中介绍了一种新的非线性激活函数 ——Padé 激活单元 (PAUs)，能够代替传统手动选择的固定激活函数，增加深度神经网络的预测性能和可靠性。

    Jul, 2019

  • 参数泄漏双曲正切：一种用于深度学习的新型混合激活函数

    本文在深度神经网络中提出了 Parametric Leaky Tanh（PLTanh）作为一种新的混合激活函数，结合了 Tanh 和 Leaky ReLU 激活函数的优势，通过保证负输入的梯度非零，解决了 'dying ReLU' 问题，并通过与 ReLU、LReLU 和 ALReLU 在五个不同数据集上的实证评估，展示了 PLTanh 的优势。

    Aug, 2023

  • ErfReLU: 深度神经网络自适应激活函数

    本文介绍了一种基于 Erf 函数和 ReLU 的新型激活函数 'ErfReLU'，并比较了其与其他 9 种可训练激活函数在 CIFAR-10，MNIST 和 FMNIST 基准数据集上应用于 MobileNet，VGG16，ResNet 模型的性能分析。

    Jun, 2023

  • 使用分段线性单元学习专业的激活函数

    提出了一种新的激活函数 Piecewise Linear Unit，它可以学习专门的激活函数，并在大规模数据集上获得 SOTA 性能，比 Swish 在 ImageNet 分类数据集上分别提高了 0.9%/0.53%/1.0%/1.7%/1.0% 的 top-1 准确率，此外 PWLU 易于实现且在推理方面高效。

    Apr, 2021

  • 稀疏实验数据预测建模的自适应激活函数

    本研究旨在通过研究两种类型的自适应激活函数来填补理解有限数据情景下可变激活函数对分类准确性和预测不确定性的影响的重要空白。研究结果表明，具有个体训练参数的自适应激活函数（如 ELU 和 Softplus）能够产生准确且自信的预测模型，优于固定形状激活函数和在隐藏层中使用相同可训练激活函数的不太灵活的方法。因此，该研究提供了在科学和工程问题中设计自适应神经网络的简洁方法。

    Feb, 2024

  • 通过凸优化对两层多项式和 ReLU 激活网络进行对抗训练

    训练神经网络，使其对抗性攻击具有鲁棒性，特别是在采用过度参数化的模型进行安全关键设置时，仍然是深度学习中的一个重要问题。

    May, 2024

  • ReLU 是否具有对抗鲁棒性？

    通过实验证明修正线性单元（ReLU）激活函数在生成对抗性样本方面的不足，我们提出了一种改进版本的 ReLU 函数，以提高对抗性样本的鲁棒性，并通过对抗训练进一步增强了我们的自定义模型相比于通用模型的鲁棒性。

    May, 2024

  • APALU：一种用于深度学习网络的可训练自适应激活函数

    训练激活函数 APALU 在深度学习中具有鲁棒性和适应性，通过提升深度神经网络和递归神经网络在各种任务中的学习性能，以及在图像分类、异常检测和回归任务中广泛应用的激活函数的改进，证明其在不同的深度学习应用中表现出稳定性和效率的特点。

    Feb, 2024

  • 低曲率激活减少对抗训练中的过拟合

    本文研究在对抗训练中如何选择合适的激活函数，发现使用具有低曲率值的激活函数可以有效减小一般化误差，包括标准误差和稳健误差，并且这种现象适用于可微的平滑激活函数和不可微的非平滑激活函数。此外，对于具有低曲率的激活函数，没有出现模型的双下降现象。

    Feb, 2021

  • 深度学习中的激活函数：综述和基准比较

    本论文综述了深度学习神经网络中激活函数的综合评估与调查，并对不同类型的激活函数进行了分类和性能比较。

    Sep, 2021