学习来自不可信数据

Nov, 2016

Learning from Untrusted Data

Moses Charikar, Jacob Steinhardt, Gregory Valiant

TL;DR探讨在机器学习中存在恶意数据时的问题，其中的 list-decodable learning 和 semi-verified learning model 框架及稳健学习算法提供强大的解决方案。

Abstract

The vast majority of theoretical results in machine learning and statistics assume that the available training data is a reasonably reliable reflection of the phenomena to be learned or estimated. Similarly, the majority of machine learning and statistical techniques used in practice a

machine learning list-decodable learning semi-verified learning model robust learning stochastic optimization

发现论文，激发创造

不可信来源中的健壮学习

该研究通过统计学习理论视角研究了机器学习中如何从分布式、众包等外部数据源中进行稳健学习，提出了一种通过自动抑制无关或损坏数据的过程，并通过实验证明其比鲁棒统计和分布式优化的替代方法具有更高的精度和准确性。

Jan, 2019

通过平方和实现列表可解码学习

研究通过 Sum-of-Squares SDP hierarchy 在列表可解码学习上的应用，分别对线性回归和均值估计问题进行了研究，并提出了新的算法来解决这些问题，其中输入数据中包含了异常值。

May, 2019

列表可解线性回归

该研究为第一篇在 list-decodable 设置中，给出了一种鲁棒的回归问题的多项式时间算法，当假设内点分布是 certifiably anti-concentrated 分布时，该算法能够成功地给出一个接近于真解的目标函数。

May, 2019

稳健验证：即使分布发生偏移，也能自信地做出预测

本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型，使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集，通过估计数据漂移量建立了鲁棒性，并在多个基准数据集上进行了实验证明了该方法的重要性。

Aug, 2020

高效地从不受信任批次中学习结构化分布

研究了从不可信批次中学习的问题，通过采用基于求和平方层次结构的算法框架，提出了在具有形状先验知识的情况下，在自然分布类中降低样本复杂度的解决方案。

Nov, 2019

学习不完整数据时对抗性扰动的鲁棒性

本文研究了在对抗性扰动的假设下，无标记数据在推断问题中的作用，并将两种主要的学习框架 —— 半监督学习（SSL）和分布式鲁棒学习（DRL）统一起来，并在新的复杂性度量基础上进行了一般化理论的构建。

May, 2019

面对攻击具有强鲁棒性和高可靠性的学习者

研究了如何在多个角度上面对数据污染攻击实现强大的鲁棒性保证和提供可靠的预测，同时提供算法计算文本类问题的区间，并针对线性分离器提供了真正的多项式时间算法。

Mar, 2022

批量鲁棒学习的通用方法

研究了在数据存在噪声和对抗性的情况下如何进行鲁棒学习，同时提出了有效的学习算法来解决分段区间分类和分布估计的问题。

Feb, 2020

分布无关可靠学习

研究可靠的不可知学习框架中的问题，使用单边多项式逼近可学习可靠分类器和构建适当的单边多项式逼近来学习大多数时完全可靠，这些算法还满足强属性效率属性并提供样本复杂度和运行时间之间的平滑折衷。

Feb, 2014

具有统计保证的增量学习 - to-learn

研究了如何针对来自未知元分布的任务类别推断出学习算法，并提出了学习正半定矩阵参数化的岭回归算法，通过应用随机策略来降低岭回归引入的经验错误，以实现在线学习，提高模型性能和泛化性能。

Mar, 2018