Nov, 2023
学习非线性模型类的统一框架来自任意线性样本
A unified framework for learning with nonlinear model classes from
arbitrary linear samples
TL;DR通过给定的模型类，利用训练数据从学习未知对象的基础问题出发，我们引入了一个统一的框架，该框架允许将对象作为任意希尔伯特空间，具有一般类型的（随机）线性测量作为训练数据，以及一般类型的非线性模型类。我们为这个框架建立了一系列学习保证，并确保训练数据的数量与模型类的属性之间具有明确的关系，以确保接近最佳的泛化界限。通过这样做，我们还引入并发展了模型类关于采样操作的分布的变化的关键概念。为了展示该框架的多功能性，我们展示了它可以包容许多不同类型的感兴趣的已知问题，例如通过随机采样进行矩阵草图，使用各向同性向量的压缩感知，回归中的主动学习和使用生成模型的压缩感知。在所有情况下，我们展示了如何将已知结果变为我们的一般学习保证的直接推论。对于使用生成模型的压缩感知，我们还提出了一些近期结果的推广和改进。总之，我们的工作不仅引入了一种从各种数据类型中学习未知对象的统一方法，还确立了一系列统一的理论保证，巩固和改进了各种已知结果。