度量和减轻结构异常最大似然估计的偏差

ICMLJul, 2020

度量和减轻结构异常最大似然估计的偏差

Quantifying and Reducing Bias in Maximum Likelihood Estimation of Structured Anomalies

Uthsav Chitra, Kimberly Ding, Jasper C.H. Lee, Benjamin J. Raphael

TL;DR本文讨论了异常估计的问题，提出了一种新的混合模型的异常估计方法，并给出了其与 MLE（最大似然估计）在疾病爆发和高速公路交通数据上表现的对比。

Abstract

anomaly estimation, or the problem of finding a subset of a dataset that differs from the rest of the dataset, is a classic problem in machine learning and data mining. In both theoretical work and in applications, the anomaly is assumed to have a specific structure defined by membersh

anomaly estimation maximum likelihood estimator anomaly family normal means setting mixture model

发现论文，激发创造

分布式估计、信息损失和指数族

通过本文，我们研究并证明了一种简化的通信高效分布式学习框架，它利用数据子集计算本地最大似然估计量，并结合本地估计值实现对全局 MLE 的最佳近似，并证明了该框架的统计性质与误差率性质。我们还研究了使用 KL 散度方法与更常见的线性组合方法组合本地 MLE 的经验性能，并表明 KL 方法在实际设置中比线性组合方法更为优越，可解决模型错误、非凸性和异构数据分区等问题。

Oct, 2014

深度异常检测中偏差影响的理解

本文研究在机器学习中异常检测的独特挑战，探究有偏的异常数据集对异常检测的影响以及如何利用偏见数据集优化异常检测算法。

May, 2021

最大似然不确定性估计：对异常值的鲁棒性

本研究针对回归任务中的训练数据中的离群值和嘈杂标签对基于最大似然的不确定性估计方法的鲁棒性进行基准测试，并提出使用重尾分布（拉普拉斯分布）来提高对离群值的鲁棒性。通过标准回归基准测试和单目深度估计的高维回归任务进行了验证，得出了基于重尾分布的最大似然提供更好的不确定性估计，更好的超出分布数据的不确定性分离，以及在存在离群值的情况下更好的对抗性攻击检测等结论。

Feb, 2022

高维广义线性模型中的鲁棒估计

该研究介绍了一种基于变换的确定性鲁棒初始估计方法及其对应的迭代加权最小二乘算法，用于解决存在异常值时基于最大似然估计的广义线性模型中初始估计不准确的问题。

Sep, 2017

用平均数中位数保障的机器学习：理论与实践

使用中位数估计器介绍了一种新的鲁棒机器学习估计器，能够在最小数据集假设下实现最佳收敛率，这一方法通过分析异常值而得出。该研究提出一个新的断点概念，该断点数量考虑了估计器的统计性能，同时提高了算法的可实现性。

Nov, 2017

深度时间序列异常检测的蒙特卡罗 EM

本研究提出了一种结合 Monte Carlo EM 技术的神经网络模型，能够显式地识别和处理时间序列数据中的异常点，通过将潜在的异常点指示变量引入到模型中，提高了模型在标准数据集上的表现。

Dec, 2021

基于离线模型的正态化最大似然估计优化

本文提出了在数据驱动的优化问题中利用归一化极大似然估计器解决不确定性和变化范围问题的方法，并通过在各个领域（如化学、生物学和材料工程）的高维设计问题中进行的实验验证了该方法的有效性。

Feb, 2021

高斯图模型中最大似然估计的几何学

从几何的角度研究高斯图模型中的最大似然估计，提出代数消元方法来求得 MLE 存在的下界，并将其应用于二分图、网格和彩色图。研究了 ML 度量，给出第一个例子，即使观测数等于树宽度时 MLE 也存在的图.

Dec, 2010

网络中的异常聚集检测

探测给定传感器网络中是否存在具有 “异常行为” 的传感器簇，涉及时间序列分析和泊松分布的聚类检测方法。

Jan, 2010

自编码器的最大似然训练

本文首次成功地将自动编码器与极大似然训练法结合，通过提出改进的评估器并克服训练中的两个挑战，获得了具有竞争力性能的最大似然自动编码器（MLAE）模型。

Jun, 2023