- 有效的 PAC 学习与回应是 "是" 或者 "否" 的 Oracle 可能吗?
在本文中,我们探讨了在二分类的 PAC 学习中,是否有比经验风险最小化(ERM)更弱的预测力量仍然能够实现学习,结果表明只需多项式代价就可以使用我们的更弱预测力量来学习概念类,同时也满足了 Alon 等人提出的对于有效性学习的算法原则的要求 - 可复现学习的计算景观
我们研究算法可复现性的计算方面,这是由 Impagliazzo、Lei、Pitassi 和 Sorrell [2022] 引入的稳定性概念。通过一系列与可学习性的统计联系的最新研究,如在线学习、私有学习和 SQ 学习,我们旨在更好地理解可复 - 列表样本压缩与均匀收敛
探讨列表学习在 PAC 学习中的适用性,研究了与泛化相关的经典原理,特别侧重于一致收敛和样本压缩对于学习可行性的影响,并证明了一致收敛在列表 PAC 学习中与可学习性等价,同时发现了样本压缩的一些令人吃惊的结果。
- 多分布学习的样本复杂度
这篇论文研究多分布学习,给出了一个样本复杂度为 $\widetilde {O}((d+k)\epsilon^{-2}) \cdot (k/\epsilon)^{o (1)}$ 的算法,解决了 COLT 2023 的开放问题。
- 量子数据学习的信息论泛化界限
我们提出了一个描述量子学习的数学形式,并利用几种量子学习场景进行直观且可访问的推广边界。
- 通过舒尔多项式高效学习一层 ReLU 网络
本研究旨在研究使用标准高斯分布下的 ReLU 激活函数的线性组合进行 PAC 学习的问题,并提出了一种具有高效样本和计算复杂度的算法,其复杂度接近于相关统计查询算法类中的最优复杂度。该算法使用张量分解识别出一个子空间,使其在正交方向上的所有 - 多分布学习中 VC 类的样本复杂度
多分布学习是 PAC 学习在具有多个数据分布的环境中的自然推广,本论文讨论了该问题的最新研究进展以及在统计学习中使用游戏动态的一些基本障碍。
- 学习带有随机分类噪声的边缘半空间的信息计算权衡
本文研究 PAC 学习半空间问题中的分类噪声并建立信息计算交换模型,给出了算法复杂度和样本复杂度之间存在固有差距,最终得到了关于统计查询算法和低次多项式测试的下限,证明了计算效率算法的样本复杂度存在基本平方依赖关系。
- 多智体信仰的 PAC 语义学习性
此文介绍了使用多智能体认知逻辑演示 PAC 学习的技术基础,涉及逻辑和弱推理,以提供强大的模型理论框架来回答查询,并研究了该算法的正确性、样本复杂性以及其能够高效的情况,利用表述定理将模态推理纳入命题推理中。
- ICML属性高效的带有恶意噪声的低次多项式阈值函数 PAC 学习
论文研究了稀疏度 - d 多项式阈值函数的属性稀疏特性和机器学习的 PAC 学习方法,提出了一种新算法,使用仅限 Frobenius 范数来验证好的近似或识别受污染样本的杂音过滤器。
- 关于噪声在学习递归神经网络样本复杂度中的作用:长序列的指数差距
研究了添加噪音的多层 S 形神经网络对长度为 T 的序列进行分类的 PAC 学习的样本复杂度,得到了以 O (wlog (T/σ)) 为界的样本复杂度;对于非噪声版本,样本复杂度的下界为 Ω(wT),显示了有关噪声和非噪声网络样本复杂度对 - IJCAI基于 SAT 的描述逻辑概念的 PAC 学习
提出有界拟合作为一种模式学习的方案,该方案可以在本体存在的情况下学习描述逻辑概念,并且称之为 PAC 学习的通用性具有理论保证。同时,我们提供了一种名为 SPELL 的系统,其基于 SAT 求解器高效实施了有界拟合,并将其表现与最先进的学习 - AAAIPAC 学习的参量化理论
本文提出了一种参数化 PAC 学习理论,通过该理论可对 CNF、DNF 和图形学习等问题的可行性边界进行更精细的界定,并发展了机器学习领域的参数化固定参数学习的概念。
- MM单调学习
通过黑盒 Oracle 访问和转换算法 A,提出了将任意学习算法 A 转换为具有类似表现的单调算法的方法,并解决了多个关于单调学习算法的问题。
- Forster 分解及噪音下的学习 Halfspaces
本研究提出了一种新的方法,通过对分布进行离散化混合来寻找带有良好反浓度特性的 Forster 变换,旨在解决在 Massart 噪声模型中的分布无关 PAC 学习问题,其中样本复杂度强多项式,而不依赖于示例的位复杂度。
- 干净标签攻击下的鲁棒学习
本篇研究了在干净标签数据污染攻击下的强健学习问题,主要关注了攻击能力、PAC 样本复杂度以及线性分类器的不可信等方面。
- ICML采用恶意噪声的半空间样本最优 PAC 学习
本文提出一种能够在存在恶意噪声的条件下有效学习欧氏空间中均匀半空间的 PAC 算法,该算法框架下的样本复杂度接近最优,主要用到了矩阵 Chernoff 型不等式和对错误噪声模型的推广。
- 带有 Massart 噪声的学习半空间的近似最优统计查询难度
研究学习理论中使用的统计查询模型在学习含有 Massart 噪声的 Halfspaces 时的有效性,并证明了已知的算法与最优界的差距,解决了一个学习理论中长期存在的难题。
- 将对抗性鲁棒学习降至非鲁棒 PAC 学习
通过将对抗性鲁棒学习简化到标准的 PAC 学习问题,即仅使用黑盒非鲁棒性学习器学习鲁棒性预测器的学习复杂度,我们提供了一个降低学习复杂度的方法,并证明了其数学上的正确性。同时,我们也给出了一个必要的下界。
- 学习具有 Tsybakov 噪声的半空间的多项式时间算法
本文首次提出了针对在 Tsybakov 噪声情况下 PAC 学习均匀半空间的可行的多项式时间算法,并且证明了该算法对于如对称型对数凹分布之类的广泛应用的分布成功率显著