自适应预测缺失数据的优化

Feb, 2024

Adaptive Optimization for Prediction with Missing Data

Dimitris Bertsimas, Arthur Delarue, Jean Pauphilet

TL;DR训练具有缺失条目的预测模型时，我们可以利用两阶段自适应优化问题来处理缺失数据，并提出了一种新类模型，即自适应线性回归模型，其中回归系数根据观测特征进行自适应。我们展示了一些自适应线性回归模型等价于同时学习一个填充规则和一个下游线性回归模型，而不是顺序学习。我们利用这种联合填充 - 回归解释来推广我们的框架到非线性模型。在数据不随机缺失的情况下，我们的方法可以提高 2-10% 的样本外准确率。

Abstract

When training predictive models on data with missing entries, the most widely used and versatile approach is a pipeline technique where we first impute missing entries and then compute predictions. In this paper, we view prediction with →

predictive models missing data adaptive optimization problem linear regression models imputation rule

发现论文，激发创造

统计学习中的确定性和近似确定性模型

本文提出了一种统一的方法，以验证数据插补对于学习准确模型是否必要，并在插补不必要的情况下返回准确模型。通过我们的算法，可以显著减少数据插补所需的时间和工作量，并且不会带来明显的计算负担。

Feb, 2024

监督学习的缺失数据插补

本文比较了不同的方法在监督分类任务中填补缺失分类数据的效果，并证明了方法可以提高预测准确性，并达到了 Missing-data perturbation 和 k-nearest-neighbors imputation 下准确率的最新水平。

Oct, 2016

基于健康数据库的预测模型缺失值处理方法的基准测试

本文系统评估了处理缺失值的策略在预测模型中的效果，重点关注大型健康数据库，结果表明，在监督式机器学习中自然支持的缺失值预测表现优于最先进的插补方法，且计算成本更低。

Feb, 2022

MissDiff：在带有缺失值的表格数据上训练扩散模型

这项工作提出了一个统一且原则性的扩散式框架，用于在各种缺失机制下从数据中学习丢失值，并通过多个制表符数据集的评估证明了其优于当前最先进的扩散模型。

Jul, 2023

时间序列分类中的概率性数据补全

本文提出了一个新颖的概率框架，用于处理具有缺失值的多变量时间序列数据的分类问题。通过训练两个部分的模型，一个用于缺失值填补的深度生成模型，一个用于分类的分类器，能够有效地建模填补缺失值带来的不确定性，并且利用新的正则化技术解决了合并模型可能产生的无意义填补解的问题，通过在真实世界数据上进行广泛实验，证明了我们方法的有效性。

Aug, 2023

一种端到端的时间序列模型，用于同时进行填充和预测

本文提出了一个基于神经网络的端到端模型，可以在存在缺失值的时间序列数据上，同时实现预测并融合缺失值，相比现有方法表现出更好的综合性能。

Jun, 2023

适应缺失值的公平干预

该论文研究了缺失数据对算法公平性的影响，并提出了一种可扩展和自适应的公平分类算法来处理所有可能的缺失模式，以保留缺失模式中编码的信息，并在多个数据集上实验证明该算法相比于传统的 impute-then-classify 方法在公平性和准确性上具有优势。

May, 2023

NeuMiss 网络：处理有缺失数据的监督学习的可微编程

通过使用缺失指标的新型非线性，本文提出了一种名为 NeuMiss 网络的新颖结构，该结构可解决缺失信息带来的挑战，其计算复杂度和参数量不受缺失数据模式数量的影响，并具有良好的预测精度和统计效率。

Jul, 2020

PROMISSING: 剪枝神经网络中的缺失值

该研究提出了一种名为 PROMISSING 的神经网络学习和推断过程中对缺失值进行修剪的方法，无需移除或填补缺失值，而是将其作为一种新的信息源，实现类似于各种填补技术的预测效果，并提高模型对于缺失信息的处理能力。

Jun, 2022

带有噪声和缺失数据的高维回归：非凸性可证明保证

研究高维稀疏线性回归问题在存在噪声、缺失或相关的数据时的情况下，提出了基于投影梯度下降的估计器，并且证明其在多项式时间内收敛到所有全局最小值的近邻，并给出了在统计和计算两个方面的理论保证。

Sep, 2011