population risk | BriefGPT - AI 论文速递

关键词population risk

搜索结果 - 10

堆叠回归的误差减少
通过利用交叉验证数据生成预测并最小化对总体风险的估计，补偿线性回归估计量的集合技术，有助于增强预测准确性。同时，通过收缩效应，当使用至少三个维度分隔的嵌套子空间进行线性最小二乘投影时，堆叠估计量的总体风险严格小于其中最佳单个估计量。因此，堆
PDF10 months ago
公共数据辅助的镜像下降隐私模型训练
本文提出了一种使用公共数据集来改进差分隐私模型训练隐私 / 效用权衡问题的新方法，该方法设计了一种自然的 DP 镜像下降算法，并证明该算法在具有非各向同性的次高斯分布特征向量的线性回归中提供了人口风险保证，同时控制了噪声稳定性，实现了更好的
PDF3 years ago
随机凸优化中不要使用完整批次
本文研究随机凸优化的全批量优化算法的泛化性能，并提供了一项新的分离结果，显示出全批量方法需要至少 Ω(1 /ε^4) 次迭代或具有维度相关的样本复杂度。
PDF3 years ago
多模态学习为何比单一模态学习更好（可证明）
本文证明了使用多种模态进行深度学习相比于使用单一模态，采用常见的多模态融合框架可以更好地学习，并且能够获得较小的总体风险，这是首个从泛化角度捕捉到真实多模态应用中重要的定性现象的理论论证。
PDF3 years ago
统计学习中的风险单调性
本文针对机器学习中数据采集的困难和对泛化理解的缺乏，提出一种风险单调且效率较高的学习算法，解决了 Viering et al. 2019 提出的风险曲线非单调性的问题，同时提出了专门针对马尔可夫差分序列等非独立同分布的过程的经验 Berns
PDF4 years ago
过参数化情况下线性分类器插值的有限样本分析
通过分析在随机数据集以及有噪声数据集情况下最大间隔算法的应用，探讨了过度参数化的最大间隔算法训练噪声数据集可以实现接近最优的数据种群风险，其中数据噪声由对手选择在一定范围内。
PDF4 years ago
双层神经网络人群风险的先验估计
本文提出了一种新的基于先验估计的风险的方法，该方法可以用于几乎最优的两层神经网络且误差率的变化与蒙特卡罗误差率的变化相同，特别适用于过度参数化的情况，同时也解释了为什么两层神经网络比相关的核方法更有效。
PDF6 years ago
NIPS关于经验风险局部极小值的研究
该文提出了一种基于随机梯度下降（SGD）的简单算法，旨在在只有点实现度量上接近总体风险而不具备总体风险时，找到基础函数的 epsilon - 近似局部极小值，从而避免我们所谓的浅局部极小值。
PDF6 years ago
深度学习算法概览
这篇论文通过理论分析神经网络的收敛行为、稳定点及特性研究其经验风险的实证风险的景观，证明线性神经网络的实证风险在训练样本量为 n、总权重维数为 d、每层权重的度量边界为 r 时，具有一致收敛到其总体风险的速率。深度非线性神经网络的实证风险的
PDF7 years ago
广义线性问题的可扩展近似
本文讨论了随机优化中的种群风险以及解决大规模问题中经验风险计算的困难，提出了一种基于随机梯度下降算法的解决方案，以 OLS 估计器为基础进行最小化种群风险的近似。
PDF8 years ago