本文通过一项涵盖 400 种激活函数的大规模调查,提供了先前已发表的激活函数的最全面概述和系统化,并为当前对该函数族的理解进行更新。
Feb, 2024
本文系统总结了神经网络领域可训练激活函数的不同模型,提出了这类函数的分类法,并探讨了其优缺点,进一步表明这些方法很多等价于添加使用固定(不可训练)激活函数和一些简单的局部规则来约束相应的权重层的神经元层,从而促进了神经网络的性能。
May, 2020
本研究对深度学习中使用的激活函数进行了调查和总结,强调了近期激活函数在深度学习应用方面的趋势。该总结对于选择适用于任何特定应用的最合适和适当的激活函数将起到帮助性作用。
Nov, 2018
本论文综述了深度学习神经网络中激活函数的综合评估与调查,并对不同类型的激活函数进行了分类和性能比较。
Sep, 2021
本文介绍了常见的非线性激活函数,并对它们的特点进行了评估。同时,分析了深层神经网络及其与权重初始化方法的关系,其中将特别关注节点的入度和出度对整个网络的影响。
Apr, 2018
使用自适应激活函数,设计了一种用于改进深层神经网络架构的分段线性激活函数,并在 CIFAR-10 等数据集上取得了最先进的表现。
Dec, 2014
复杂的分段线性激活函数在浅层和深层卷积神经网络中比 ReLu 激活函数效果更好,并使用 PyTorch 进行结果比较。
Aug, 2023
本文介绍了深度神经网络在不同领域的应用,探讨了激活函数选择的重要性及其优化方法,提出了两个新的激活函数 ELiSH 和 HardELiSH,并使用基于遗传算法的方法在三个图像分类基准测试中得到了比传统基线更好的效果。
Aug, 2018
本文综述了近期在文献中对 CVNNs 的各种工作,并详细研究了各种 CVNNs 的激活功能、学习与优化、输入和输出表示,以及在信号处理和计算机视觉等任务中的应用,同时探讨了一些挑战和未来研究方向。
Jan, 2021
本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响,以评估这些发现在生物领域的潜在应用,可能对神经系统疾病的治疗有重要影响。
Jun, 2023