Jul, 2023
统计推断中的无损转换和超额风险界限
Lossless Transformations and Excess Risk Bounds in Statistical Inference
László Györfi, Tamás Linder, Harro Walk
TL;DR研究统计推断中的过度最小风险，定义为从观察到的特征向量中估计随机变量的最小期望损失与从特征向量的变换（统计量）中估计相同随机变量的最小期望损失之间的差异。通过描述无损变换，我们构建了一个分割测试统计量，用于检验给定变换是否为无损，并证明对于独立同分布的数据，该检验是强一致的。更一般地，我们在相当一般的损失函数类上开发了关于过度风险的信息理论上界，这些上界是一致地成立的。基于这些上界，我们引入了 δ- 无损变换的概念，并给出了给定变换普遍 δ- 无损的充分条件。还概述了在分类、非参数回归、投资组合策略、信息瓶颈和深度学习方面的应用。