Jul, 2023

应对组合分布偏移：基于矩阵补全的视角

PDF
TL;DR在分布漂移下的泛化问题中，我们研究了组合分布漂移这个设置，利用双线性嵌入进行分析，发展了一系列理论结果，并给出了应对渐进谱衰减的新算法、泛化保证和线性代数结果。
发现论文，激发创造
  • 使用谱分解学习离散积分分布混合

    提出了一种多项式时间 / 样本复杂度方法来学习离散域上的 $r$ 个离散乘积分布的混合，利用张量分解和矩阵完成方法降低难度，该方法在统计上是一致的，并提供了有限的样本保证。

    Nov, 2013

  • 处理任意协变量偏移学习的容错算法

    研究在任意分布转移下的学习问题，重点关注 PQ 学习、TDS 学习两个框架以及谱异常移除技术对多项式回归及容忍可测试学习的影响。

    Jun, 2024

  • 受结构限制的指数族矩阵补全

    本文提出了一种基于指数族分布的、带有一般结构约束的矩阵完成算法框架以及相应的正则化 $M$ 估计器，统一且创新的统计分析结果得到了通过模拟数据验证。

    Sep, 2015

  • 核矩阵完成与外推的概化误差界

    本文分析了利用重构核希尔伯特空间在矩阵完成中融合先验信息以提高估计准确性和外推缺失条目的可靠算法的泛化误差， 并提出了数值测试结果证实了理论结果。

    Jun, 2019

  • 来自一般确定性采样模式的矩阵补全

    该论文针对低秩矩阵完成算法的理论保证存在严格且近似的情况，可以应用于任何确定性采样计划。通过引入一个图形来解决观察条目的性能问题，论文从理论和实验角度论证了算法的成功性。

    Jun, 2023

  • 具有分布转变的可测试学习

    在学习分布转移的基本问题中，我们提出了一个新模型，称为可测试学习，可以通过一个相关的测试来得到分类器在测试分布上的性能证明，并证明了对于一些常见概念类别如半空间、半空间的交、决策树等，以及具有低次 $L_2$- 夹逼多项式逼近器的任何函数类别都可以在这个模型下学习。

    Nov, 2023

  • 低秩矩阵完备性的代数组合方法

    本研究提出了基于代数几何和拟阵理论的新颖代数组合观点，旨在研究矩阵中少数条目之间的关联。该方法的固有局部性可实现对封闭理论和实践框架中的单个条目进行处理。除了介绍低秩矩阵完成的一种代数组合理论之外，我们还提出了决定矩阵特定条目能否完成的算法，描述了从其他少数条目完成该条目的方法，并估计了完成该条目的任何方法所引入的误差。此外，我们还展示了如何将已知的矩阵完成结果及其采样假设与我们的新视角相关联，并解释了它们在可完成性相变方面的解释。

    Nov, 2012

  • 可扩展的贝叶斯非线性矩阵补全

    基于高斯过程潜变量模型的贝叶斯非线性矩阵补全算法，经过数据并行分布式计算方法加以优化，实现了对于高度稀疏大型矩阵的预测任务，得到了较好的实验结果。

    Jul, 2019

  • 噪声矩阵补全的线性形式的统计推断

    基于矩阵的噪声观测，我们构建了一个弹性框架以推断其线性形式，我们提出了一种构建渐近正常估计量的普遍过程，以进行双重样本去偏差和低秩投影，从而允许我们构建线性形式的置信区间并检验假说。

    Aug, 2019

  • 低噪声情况下归纳矩阵补全的泛化界

    本文研究了在低噪声环境下使用 iid 子高斯噪声的归纳矩阵填充问题（带侧面信息的矩阵填充），首次获得了普适性界限，并呈现出标准差与零误差恢复情况下的规模趋近，结果表明：在样本大小趋近于无穷大时，噪声即使存在也会趋近于零，对于侧面信息的固定维度而言，它们只有对矩阵大小的对数依赖性。

    Dec, 2022