关于判别神经网络中的多样性
本文介绍了一种名为Divnet的灵活技术,用于学习具有不同神经元的网络,并通过确定性点过程(DPP)和神经元融合的方法来捕获神经元的多样性和实现网络架构的自动优化和缩小,该方法针对剪枝神经网络问题显示优越性。
Nov, 2015
本文研究了神经网络所谓的收敛学习现象,使用多种技术对神经网络进行了实验,发现了一些神经网络的未知属性,包括神经网络中某些特征通常会被成功学习,而其他特征则没有被可靠地学习,单元学习低维子空间,而这些子空间是多个网络共有的,但学习的基向量不一致,表示代码表现出局部代码和略微分布式代码的混合特征。
Nov, 2015
通过对具有ReLU激活函数的一层神经网络的分析,我们发现神经网络具有良好的优化特性,其具有多样的单元没有虚假局部最小值,在满足“扩展特征矩阵”的最小奇异值足够大的条件下,可以使损失函数变得任意小。
Nov, 2016
该研究提出MotherNets来解决深度神经网络集成中的训练成本和模型多样性问题,并在减少训练成本和提高模型精度方面取得了新的 Pareto 前沿。
Sep, 2018
本文阐述了集成学习的一些基本概念,研究了如何优化集成学习的多样性来对抗敌对攻击,并提供了一些算法来学习如何生成高精度的集成预测。
Aug, 2019
本文提出两种构建神经网络集合的方法,使用不同的体系结构,以细化预测结果并利用架构变化作为集合的差异性的来源,并在多个分类任务和现代架构搜索空间方面表现优于深度集成。
Jun, 2020
本文提出了一种新颖的偏差损失函数来解决紧凑型CNN中随机预测问题,同时提出一系列SkipNet模型以增加网络的特征差异性,相较于MobileNetV3 Large在分类准确率上提高了1%。
Jul, 2021
本文研究了集成技术在机器学习中的广泛应用,特别是在神经网络中多样性的确切角色、如何衡量它以及它如何促进神经网络集成算法的研究。在三种常用的损失函数和两种常用的模型组合策略的基础上,通过神经网络集成进行了实证验证。
Oct, 2021
本论文提出了一种集成多样性理论,阐明了多样性的本质及对各种监督学习场景的影响,揭示了多样性是集合偏差方差分解中的一个隐含维度,同时提供了一种自动识别可使偏差方差多样性分解成立的组合规则的方法。在此基础上,实验进一步说明了我们可以用该框架来理解当前流行的集成方法。
Jan, 2023
通过使用多个独立的子网络组成的集成模型来提高模型性能和可靠性,并通过新的损失函数鼓励模型之间的多样性,在保持计算效率的同时,有效地改善模型的不确定性估计。在计算机视觉、自然语言处理和基因组数据等多个领域的广泛实验中,我们的方法在预测可靠性方面取得了显著改善。
Aug, 2023