估计器组合的稳健性
提出了一个新的框架来改善健壮回归算法的断点,从而提高算法对于异常点的容错能力。该框架通过在每一次迭代步骤中插入一个先验分布,并根据历史信息调整先验分布,增强了这些算法的断点。将这个框架应用于一个特定的算法,并推导出了一种稳健的针对迭代局部搜索的回归算法(CORALS)。最后,将该框架应用于其他健壮回归算法,并展示了改进的算法比原始算法产生了更好的结果。
May, 2023
使用中位数估计器介绍了一种新的鲁棒机器学习估计器,能够在最小数据集假设下实现最佳收敛率,这一方法通过分析异常值而得出。该研究提出一个新的断点概念,该断点数量考虑了估计器的统计性能,同时提高了算法的可实现性。
Nov, 2017
这篇研究论文概述了近期在多元设置中,如协方差估计、多元线性回归、判别分析、主成分和多元校准等方面使用的高容错鲁棒性方法,以应对数据中一些未预料到的异常值所带来的影响。
Aug, 2008
这篇论文提供了一个统一的框架,以建立在高维缩放下的正则化 M - 估计量的一致性和收敛速度,指出限制强凸性和可分解性是确保对应的正则化 M- 估计有快速收敛速度的两个关键特性,这些特性在许多经典案例中也是最优的
Oct, 2010
本文研究了概率测度 $P$ 均值的健壮估计量,提出了一种稍微复杂的构造方法以处理健壮 $M$- 估计问题,并将该方法应用于最小二乘密度估计、具有 Kullback 损失的密度估计以及非高斯、不受限制的随机设计和异方差回归问题,同时作者表明该策略也可以用于数据只被假设为混合的情况。
Dec, 2011
本文提出了一种评估应用计量经济学结论对样本中很小一部分数据敏感性的方法 —— 近似最大影响摄动法,并提供了有限的样本误差界,发现敏感性取决于推断问题中的信噪比,不会随着渐近逐渐消失,并不是由于错误规范而引起的。
Nov, 2020
该研究开发和分析了用于解决嵌套复合双层优化问题的随机逼近算法,并利用 Neumann 级数逼近来避免矩阵求逆,以实现对于存在偏差的随机梯度的稳定解决方案,研究成果具有在深度神经网络中应用鲁棒特征学习等方面的实际优势。
Jul, 2023
通过使用多输出高斯过程模型和预期改善在经过修改的非高斯正则先验上进行采样(EI)的有效最大化,本研究提出了一种新方法来优化复合目标函数,该复合目标函数是将一个高昂的黑盒子类函数 h (x) 的向量输出 g (h (x)) 函数与一个廉价函数 g (x) 组合而成。实验结果显示,该方法可以减少简单遗憾值数个数量级,比标准贝叶斯优化方法显着优越。
Jun, 2019