lipschitz functions | BriefGPT

关键词lipschitz functions

搜索结果 - 9

ReLU 网络的三种量化模式
我们通过导出上下界的极小极大逼近误差，确定了基于有限精度权重的深度 ReLU 神经网络逼近 Lipschitz 函数的三种情况：欠量化、过量化和适当量化。乍一看，深度网络在逼近 Lipschitz 函数时表现出内在的记忆有效性，与浅层网络相
PDF2 months ago
毒化攻击下的鲁棒非参数回归
本文研究了强健的非参数回归问题，提出了一种基于 Huber 损失最小化的 M 估计器解决方法，证明了该方法对于恶意样本的影响显著减弱，同时提出了一种通过将初始估计投影到 Lipschitz 函数空间以解决在小区域内攻击样本的问题的纠正方法，
PDFa year ago
基于差异性的域自适应主动学习
论文旨在设计主动学习策略，实现基于 Lipschitz 函数假设的领域自适应。通过对 Mansour 等人（2009）的先前工作进行补充，我们将源和目标分布之间的差异距离概念适应于假设类的最大化，来局限于在源域上执行准确标记的函数类。我们针
PDF3 years ago
一种用于非光滑复合势函数的高效取样算法
本文提出了一种基于 Metropolis-Hastings 框架的新算法，用于采样具有复合非平滑密度的分布，并针对这种新算法证明了在至多 $O (d log (d/ε))$ 次迭代内将混合到距目标密度不超过 Eps 的总变差距离，而该方法的
PDF5 years ago
非光滑随机梯度下降的严格分析
使用随机梯度下降来最小化 Lipschitz 函数和强凸函数但不一定可微的问题，证明了在 T 步随机梯度下降后，最终迭代的误差高概率为 O (log (T)/T)；同时构造了一个函数，证明了在确定性梯度下降中，最终迭代的误差为 Ω(log
PDF6 years ago
通过随机投影实现线性 Lipschitz 和 $C^1$ 扩展算子
使用规则随机投影将度量空间线性扩展 Lipschitz 和 $C^1$ 函数，进而更直接地证明了 Lee 和 Naor 的结果，并将 Whitney 的 $C^1$ 扩展定理推广到了 Banach 空间。
PDF6 years ago
Rademacher 复杂度的向量收缩不等式
本文将 Rademacher 平均值不等式扩展到向量值域的 Lipschitz 函数，并且也表明在边界表达式中 Rademacher 变量可以被任意 iid 对称和次高斯变量替代，给出了多类别学习、K 均值聚类和学习到学习的示例应用。
PDF8 years ago
带两点反馈的赌博机和零阶凸优化的最优算法
本文介绍了一种基于梯度估计器的简单算法，可以在 convex Lipschitz 函数方面实现带有两个反馈信息的 bandit convex optimization 和带有两个函数评估的 zero-order stochastic con
PDF9 years ago
关于具有相关性的随机向量的 Hanson-Wright 不等式的注记
证明具有凸集中性质常数 K 的等向随机向量 X 中的二次型满足 Hanson-Wright 不等式，对于高斯向量的均匀版可以用于恢复 Koltchinskii 和 Lounici 关于 B 值高斯变量协方差运算符的经验估计的最近浓度不等式。
PDF10 years ago