Feb, 2019

所有层都是平等的吗?

TL;DR本文研究过参数化深度神经网络的层级功能结构和行为,通过实验重置权重值并从层的鲁棒性与性能下降角度分析了网络层级的异质性,提供了理论分析证明 “健壮” 与 “关键” 层的存在,并呼吁关注模型的 “平坦性” 和 “稳健性” 以实现深度模型的广义化。