May, 2024
深度 ReLU 网络的度量学习和相似性学习的泛化分析
Generalization analysis with deep ReLU networks for metric and similarity learning
Junyu Zhou, Puyu Wang, Ding-Xuan Zhou
TL;DR我们通过利用真实度量（目标函数）的特定结构，构建了一个近似真实度量的结构化深层 ReLU 神经网络，从而研究了度量和相似性学习的泛化性能，推导了度量和相似性学习问题的过度泛化误差界限，并通过仔细估计逼近误差和估计误差，得出了一个最佳的过度风险率，这是首次的度量和相似性学习的过度泛化错误分析，此外，我们还研究了具有一般损失的度量和相似性学习的真实度量的属性。