May, 2017

通过经验风险实施深度生成先验的全球保证

TL;DR本文探讨了通过经验风险最小化强制使用生成深度神经网络提供的先验的理论属性,特别是两个模型:一个是在仅访问其最后一层的情况下反演生成神经网络的任务,另一个是在仅对其最后一层进行信息压缩的情况下反演生成神经网络的任务。我们建立了在网络层大小和网络权重的随机性假设的适当区域内,在两种情况下,经验风险最小化所给出的非凸目标函数没有任何虚假稳定点的结论。这些结果是这些非凸优化问题最优全局几何的第一批理论保证,它们弥合了加强深度生成先验的经验成功和对非线性反演问题的严格理解之间的差距。