heavy-tailed distribution | BriefGPT

关键词heavy-tailed distribution

搜索结果 - 8

更好、更简单的差分隐私统计估计下界
通过指纹技术和贝叶斯方法，我们改进了高维度隐私估计的下界。我们提出了计算高斯协方差和重尾分布均值的样本数量下界，并与先前工作的结论进行了比较。
PDF9 months ago
通过增量学习实现稀疏均值估计的鲁棒性
本文提出了一种简单的平均值估计方法，可以在 moderate 条件下克服现有估计器面临的计算和统计问题，并基于增量学习现象推导出匹配信息理论下界。
PDFa year ago
具有修剪的隐式归一化线性和非线性重尾多臂赌博机预测器
本文提出了基于裁剪的隐式归一化预测器用于重尾分布奖励的多臂老虎机问题，在奖励分布方面假设温和的条件下，得到了收敛性结果，并且对于线性和非线性重尾随机 MAB 问题是最优的，相对于最佳两个世界算法，该算法通常表现更好。
PDFa year ago
AAAI最大似然不确定性估计：对异常值的鲁棒性
本研究针对回归任务中的训练数据中的离群值和嘈杂标签对基于最大似然的不确定性估计方法的鲁棒性进行基准测试，并提出使用重尾分布（拉普拉斯分布）来提高对离群值的鲁棒性。通过标准回归基准测试和单目深度估计的高维回归任务进行了验证，得出了基于重尾分布
PDF2 years ago
通过遗憾最小化实现健壮和重尾均值估计的简化
本文提供一个元问题和一个对偶定理，通过这个元问题和对偶定理，我们从新的统一的视角研究了高维健壮统计和重尾分布均值估计问题，并展示了一个既简单又高效的算法，该算法用于处理两个不同问题通过两种算法最终合并实现了 “大同小异”
PDF4 years ago
深度神经网络中随机梯度噪声的尾指数分析
本文研究深度学习中随机梯度下降算法中的梯度噪声，认为它通常不服从高斯分布，而是服从重尾的 α 稳定分布。作者建议使用 Lévy motion 来描述梯度噪声驱动的随机微分方程，并验证了此假设在不同深度学习架构和数据集中的正确性。此研究为深度
PDF5 years ago
重尾损失函数的经验风险最小化
探讨了基于 Catoni 均值估计的经验风险最小化问题，并发展了基于 Catoni 的均值估计器的链式论据性能界限，以应对损失函数不一定有界，可能具有重尾分布的情况。
PDF10 years ago
Banach 空间中的几何中位数和鲁棒估计
当数据受到重尾噪声污染且可能包含大幅度的离群值时，本文介绍了一种通用方法，通过使用 Banach 空间中取值的可靠估计值，使得即使输入包含了已损坏的测量值也能产生可靠结果，并通过几个实例进行了说明，包括稀疏线性回归和低秩矩阵恢复问题。
PDF11 years ago