自适应伯努利概率的点对比较估计器
文章探讨带有噪声梯度反馈的非平稳随机优化框架,在比较序列变化的动态策略中,研究在线学习算法的动态后悔,并引入了 Total Variation ball 等新颖变分约束来建模比较序列,并基于基于小波的非参数回归理论,设计出一个多项式时间算法,并证明了该算法达到了几乎最优的动态后悔,该策略适应未知的半径。
Sep, 2020
本文提出了一种在数据为超收缩分布、存在不可避免的敌对噪声情况下,基于平方和框架的线性模型学习算法,该算法的收敛速度与扰动的比例成幂率关系,能达到理论最优收敛速度且在先前研究中未被发现。
Jun, 2020
本文主要介绍了一种基于近似中位数算法的算法来估算统计数据集的普适性,该算法满足差分隐私的强稳定性保证,解决了统计数据集在自适应问题上的泛化保证的新方法。
Jun, 2017
本研究针对离散分布 P 进行 n 个独立同分布样本的香农熵估计,使用逼近理论法进行估计,实现了在估计熵的最小二乘率方面的极致。通过采用自适应估计框架,该方法相对极小值优化估计方法在分布 P 的嵌套子序列上实现了最小二乘率的估计,从而进一步证明了估计在样本 n 的情况下是最优的,并且基本上相当于 MLE 使用 nlnn 个样本进行估计。
Feb, 2015
本文关注 Bradley-Terry-Luce 模型中的成对比较问题,并通过对图论的分析,提出了能够在有限条件下对排名进行准确估计的算法,并在大规模实验中证实了该算法的可行性。
Apr, 2023
基于似然比的推理原则重新考虑,提出了使用似然比构建任意时间有效的置信序列方法,适用于具有良好似然度的问题,而且结果保持模型无关的预定覆盖率;同时,研究了如何选择最佳的估计器序列以及与在线凸优化算法(例如 Follow-the-Regularized-Leader)的关联,提出了一种去偏的重新加权方案,可用于非参数设置,并通过非渐近分析确定了广义线性模型中的置信集大小,并在广义线性赌博机问题、生存分析和带有不同加性噪声分布的赌博机上展示了方法的实际优势。
Nov, 2023
在存在对抗离群值的情况下,我们开发了有效的算法来估计未知分布的低阶矩。这些算法的保证在许多情况下显著优于 Diakonikolas 等人、Lai 等人和 Charikar 等人的最佳先前算法,同时我们还展示了这些算法的保证与我们考虑的分布类别的信息论下界相匹配,这些改进的保证使我们能够在存在离群值的情况下提供改进的独立成分分析和学习混合高斯的算法,我们的算法基于对下面概念简单优化问题的标准平方和松弛:在所有矩与未知分布相同的分布中,找到与对抗性污染样本的经验分布在统计距离上最接近的分布。
Nov, 2017
本研究旨在探究在高维线性回归模型的情况下,不了解回归参数稀疏性和设计分布对解释方差等因素的估计最小风险的影响,获得了在回归参数稀疏性不明确的情况下最小风险同时达到 logloss 的自适应程序,同时发现设计分布的了解对解释方差的估计至关重要。
Feb, 2016
使用自适应数据收集的估计和推断在统计学中面临重大挑战。通过研究单个坐标估计的错误表明了适应性数据和 i.i.d. 数据之间估计性能的显著差异。研究表明 OLS 方法可实现匹配的估计错误,我们还提出了一种新的单坐标推断估计器,通过解两阶段自适应线性估计方程来实现。
Oct, 2023
本文首次给出了一个多项式时间算法,用于在示例和标签中对抗性堕落下执行线性或多项式回归,并基于 SoS 方法提出了一种自然的凸松弛方法来解决非凸优化问题。
Mar, 2018