初始化的熵替代方案

Jul, 2021

Entropic alternatives to initialization

Daniele Musso

TL;DR研究了局部熵损失函数在深度卷积神经网络中的应用，提出了一种可调整的模型复杂度的正则化方法，并将其解释为物理学中的重整化和时空结构的体现。

Abstract

local entropic loss functions provide a versatile framework to define architecture-aware regularization procedures. Besides the possibility of being →