asymptotics | BriefGPT - AI 论文速递

关键词asymptotics

搜索结果 - 11

弱监督下数据选择的统计理论研究
给定一个大小为 $N$ 的样本，对于统计估计或学习，通常有必要选择一个更小的大小 $n<N$ 的子样本。我们假设给定 $N$ 个未标记的样本和一个能够比随机猜测更好地预测标签 $y_i$ 的 “替代模型”。我们的目标是选择一个子样本集，用于
PDF9 months ago
有限状态自动机的即时确定化分析
我们使用转移半群建立一种有限状态自动机的即时确定化的抽象，并展示了如何应用它来界定渐近性。我们呈现了足够导致确定自动机的多项式状态复杂性的代数和组合特性。我们发现的一个特例是，具有许多非确定性转换的自动机几乎总是适用于多项式复杂性的确定化。
PDF10 months ago
AAAI模型压缩中过参数化的可证益处：从双峰下降到神经网络修剪
本文分析了过参数化模型剪枝中的双重下降现象，提出了在某些情况下，训练大型模型再进行剪枝比仅使用已知信息更好的理论证明，同时也发现了重新训练的好处以及在线性和随机特征模型中已经存在这些现象，这进一步促进了高维分析工具的发展。
PDF4 years ago
随机矩阵分析随机傅里叶特征：超越高斯核，精确的相变和相应的双下降
本文讨论基于随机傅里叶核（RFF）的回归模型的精确渐进特征，研究表明在数据样本数、数据维度和特征空间维度等三个因素中为大且可比较的实际场景下，随机 RFF Gram 矩阵不再收敛于著名的极限高斯核矩阵而是有一个可处理的行为，双重下降测试误差
PDF4 years ago
深度神经网络的 Hessian 矩阵在训练过程中的渐近光谱
本文讨论了 DNN 在梯度下降过程中的动态，并根据所谓的神经切向核（NTK）揭示了 DNN 代价函数海森矩阵的精确洞察力。我们证明，当 NTK 在训练过程中保持不变时，我们可以获得代价函数海森矩阵的渐近谱的完整特征描述。在所谓的平均场极限中
PDF5 years ago
随机特征回归的泛化误差：精确渐近性和双下降曲线
本文考虑使用随机特征空间，在测度无限趋近于无限，特征维度和样本量趋近于无穷大的情况下，利用结果回归模型和双下降现象等关键词解释深度学习模型中的奇妙现象。
PDF5 years ago
Copula＆边缘流：将边缘与其联合分离
本论文通过引入 copula 和 marginal generative flows (CM 流)，解决了深度生成网络中存在的尾部特性建模或外推的问题并提出了上界方法。最终的结果支持了 CM 流的使用。
PDF5 years ago
球面上随机点集 —— 孔径、覆盖和分离
该论文主要探讨了分布在单位球上的 $N$ 个随机点的几何性质，其中涉及了球面上的凸包，球冠的半径以及与之相关的渐进分布和期望值等问题，并提出了若干相关猜想。
PDF9 years ago
Coupon Collector's Problem Revisited: Generalizing the Double Dixie Cup Problem of Newman and Shepp
本文研究了不同概率优惠券收集问题中收集到所有不同优惠券所需的数量，计算了其期望、方差、一阶和二阶矩的渐进表现，并推导了其极限分布特性。结果表明，该分布在许多情况下收敛于 Gumbel 分布。
PDF10 years ago
NIPS适应性低复杂度序列推理用于 Dirichlet 过程混合模型
提出一种适用于在线聚类和参数估计的低复杂度的序列推理过程，通过更新超参数并使用共轭先验假设，提出了易于计算的条件似然函数的闭形式参数化表达式和 Dirichlet 过程的自适应低复杂度设计。实验结果表明该方法优于其他在线最先进的方法。
PDF10 years ago
遍历动力系统中的击中和返回时间
研究了具有统计平均意义下的动力学性质的系统中的渐进命中时间和渐进返回时间之间的关系，并且在此基础上得出了命中时间的特征。
PDF20 years ago