Feb, 2011

利用损失针来估计条件分位数

PDF
TL;DR本研究通过建立不等式来描述近似的 pinball 风险最小化器与相应条件分位数之间的接近程度，再利用这些不等式建立了所谓的方差界，并利用两种类型的不等式来证明使用 pinball 损失函数的支持向量机的 Oracle 不等式，从而实现了最小 - 最大下限对某些标准规定的条件分位数的正则性假设。
pinball lossconditional quantilenonparametric approachesvariance boundslearning rates
发现论文，激发创造
  • 超越 Pinball Loss：分位数方法用于校准不确定性量化

    本文提出了新的分位数方法，可以适用于任何回归模型，并允许在校准和锐度之间进行权衡，优化中心区间的校准度，并产生更准确的条件分位数。

    Nov, 2020

  • 移动地球销球器损失：直方图值回归的分位数

    本文提出一种基于深度学习的直方图回归方法，它包含交叉区间信息并产生可能直方图的分布，并将针球损失应用于累积直方图中以获得新的损失函数，该函数在预测中位数直方图的准确度上类似于标准的 Earth Mover's distance (EMD)。（$\tau=0.5$），并将其推广到任意分位数。

    Jun, 2021

  • 快速校准的加性分位数回归

    该研究提出了一种新的框架，用于拟合添加量分位回归模型，提供关于条件分位数的精确推断和平滑参数的快速自动估计，适用于多样化的模型结构，同时保持数值效率和稳定性。

    Jul, 2017

  • 复合分位数回归与使用新的反正切损失的 XGBoost

    本文探讨了 XGBoost 在复合分位数回归中的应用，提出了一种平滑逼近的 arctan pinball 损失函数，其相对较大的二阶导数使其更适合于 XGBoost 的二阶逼近优化方法，可同时预测多个分位数，更高效且减少了分位数交叉问题。

    Jun, 2024

  • 高概率极小化下界

    最小最大分位数是一种对比特定统计程序的黄金标准，通过引入该概念及其依赖分位水平的表达方式，作者开发了新的方法来研究鲁棒性估计问题，得到了多个重要结果，包括协方差矩阵估计、稀疏线性回归、非参数密度估计、保序回归等。作者的目标是通过最小最大分位数提供对统计问题难度的更仔细理解，并通过用户友好的工具获得这些数量的下界。

    Jun, 2024

  • 高维线性回归在 Lq - 球上的极小极大估计率

    本文研究了标准线性回归模型的极小极大收敛速度，证明在合适的设计矩阵正则化条件下，最小值误差在 $L_2$-，$L_{oldsymbol r}$- 损失和 $L_{oldsymbol 2}$- 预测损失内达到了收缩速度。同时，我们提供了 $L_{oldsymbol r}$- 范数的极小极大风险下限。

    Oct, 2009

  • 基于分位损失函数的高维分布式回归

    本文研究了具有重尾噪声的高维线性回归模型的分布式估计和支持恢复，并采用分位数回归损失函数来处理噪声。我们提出了一种计算和通信效率高的分布式估计器，理论上表明该方法在少数迭代后即能达到近乎理想的收敛速度，并且还为支持恢复提供了理论保证。

    Jun, 2019

  • 重尾巴下的损失最小化和参数估计

    该论文研究了一种简单估计技术在重尾分布下提供指数集中性的应用和推广，证明该技术可用于平滑强凸损失函数的近似最小化，特别是在最小二乘线性回归、稀疏线性回归和低秩协方差矩阵估计中具有类似的特征。

    Jul, 2013

  • 在先验概率转移下最小化量词方差

    通过研究二元预测问题、先验概率转移及基础分类器的优化策略，本文确定其最大似然估计量的渐近方差，发现其与特征下类别标签的 Brier 得分相关，并点明了训练基础分类器的方法以最优化训练集和测试集的 Brier 得分。

    Jul, 2021

  • 通过偏导数实现深层非交叉分位数

    本文提出一种基于深度学习的通用算法，用于预测任意数量的分位数，并确保分位数单调性约束，达到机器精度，并在实验中获得最先进的结果，同时证明其可扩展性适用于大规模数据集。

    Jan, 2022