本文提出了基于数据依赖性复杂度概念的学习算法误差的新界限，利用局部和经验版本的 Rademacher 平均值对估计进行优化，适用于具有小样本误差函数子集的情况，并应用于凸函数类和核函数类的分类和预测问题。

Aug, 2005

算法和数据相关的广义化界限是解释现代机器学习算法的广义化行为所必需的。在这个背景下，存在包括 (各种形式的) 互信息和基于假设集稳定性的信息论广义化界限。我们提出了一个概念上相关但技术上独特的复杂度度量方法来控制广义化误差，这就是算法和数据相关的假设类的经验 Rademacher 复杂度。通过结合 Rademacher 复杂度的标准特性和这个类的方便结构，我们能够 (i) 获得基于有限分形维度的新界限，这些界限将之前从连续假设类推广到有限假设类，并避免了先前工作中所需的互信息项；(ii) 大大简化了最近一个和维度无关的随机梯度下降的广义化界限的证明；(iii) 我们轻松恢复了 VC 类和压缩方案的结果，类似于基于条件互信息的方法。

Jul, 2023

利用加权集合大小的一种新技术来估计加权设置大小的新广义 Rademacher 复杂度的上限和下限，并且可以通过解决随机扰动最优化问题来估计加权 Rademacher 复杂度。

Jan, 2018

提出了一种新的学习理论复杂性概念，它在经验风险最小化和贝叶斯估计器的情况下分别以数据无关的 Rademacher 复杂度和数据相关的信息复杂度进行上限绑定，并通过 Rademacher 复杂度将其与 $L_2 (P)$ 熵进行关联。该研究进一步使用 ' 易于理解 ' 和模型复杂性等相互分离的方法，提供适用于 VC 和多项式熵类的最优性差距上限。

Oct, 2017

本文研究了基于 ERM 的多标签学习算法的本地 Rademacher 复杂度，并提出一种新算法，通过集中在尾奇异值上而不是所有奇异值上，更好地恢复多标签预测器的低秩结构，从而利用标签之间的相关性。我们提出了一种新的条件奇异值阈值算法来解决本文提出的目标函数。实证研究验证了我们的理论结果，并证明了所提出算法的有效性。

Oct, 2014

本文主要研究了机器学习模型的鲁棒性问题，特别是针对 l∞ 攻击所造成的影响，并考察了基于 Rademacher 复杂度的鲁棒泛化问题。研究表明，通过限制权重矩阵的 l1 范数可能是提高在对抗环境下的泛化性能的有效方法。

Oct, 2018

探讨当部分数据无标签时的半监督分类问题，提出基于密度水平集估计的方法，利用聚类假设和与边际分布有关的回归函数的行为，实现在未标注和已标注示例数量上的收敛速率快。

Apr, 2006

利用转导 Rademacher 复杂度及其 Error bounds 技术，借助新型的算法误差求解及算法刻画技术，得出三个已知的算法误差边界并针对混合转导算法提出新的 PAC-Bayesian 边界。

Jan, 2014

对深度神经网络进行对抗性示例训练通常导致对测试时的对抗数据泛化能力差，本论文通过 Rademacher 复杂度研究了这个问题，提出了上确界对于匹配标准设置中的最优上确界的 DNN 的对抗 Rademacher 复杂度，通过计算对抗函数类的覆盖数来解决核心挑战，并引入了一种新的覆盖数变体，称为 “均匀覆盖数”，以有效地填补稳健和标准泛化中的 Rademacher 复杂度差距。

Jun, 2024

本文探讨了强化学习中的一种 Batch Reinforcement Learning，并对 Bellman 误差进行了估计及最小化的元学习方法，通过对一系列函数类（包括有限类、线性空间、核空间、稀疏线性特征等）进行局部 Rademacher 复杂度评估，进而探索算法的泛化性能。研究发现：在双子抽样策略下的经验风险极小化策略的过多风险可以通过函数类的 Rademacher 复杂度进行界定；使用完备性假设可以在算法的 Rademacher 复杂度下再次将 FQI and Minimax 策略优化；通过局部 Rademacher 复杂度可以实现快速统计速率。

Mar, 2021