variance | BriefGPT - AI 论文速递

关键词variance

搜索结果 - 60

透过模式插值理解扩散模型中的幻觉
由于扩散模型解码器的不连续损失面导致的中间插值现象，扩散模型在训练集中平滑地插值产生了完全不属于原始训练分布支持范围的样本（即幻觉），我们通过对高斯数据和各种形状的人工数据进行实验，展示了这种幻觉与形状组合生成之间的关联，并提出了一种简单的
PDF21 days ago
折扣马尔可夫决策过程中均值方差的时限差异学习有限时间分析
针对折扣奖励马尔可夫决策过程（MDP）中方差的策略评估问题，我们推导了有限样本界限，该界限在均方差意义上成立，并在使用 / 不使用正则化的尾值迭代平均值时具有高概率，而且误差的初始衰减呈指数衰减，总界限为 $O (1/t)$，其中 $t$
PDF22 days ago
基于细粒度动态框架的偏差 - 方差联合优化在非随机丢失数据上的研究
大多数实际应用中的数据收集通常包含缺失值，这些缺失值通常是非随机缺失，从而降低了模型的预测性能。本文首先从理论上揭示了正则化技术的局限性，并进一步说明，对于更一般的估计器，无偏性必然导致方差无界。然后，我们开发了一种系统的精细动态学习框架，
PDFa month ago
MinMax 采样和分布式聚合的偏差估计器
MinMax 采样是一种降采样实向量的技术，旨在最小化所有向量分量上的最大方差。本研究提出一种有偏的 MinMax 估算方案 (B-MinMax)，通过增加估算偏差来减小方差。当无聚合时，B-MinMax 的均方差严格低于无偏的 MinMa
PDF2 months ago
何时适用 Subagging？
我们研究了子采样聚合在回归树上的有效性，证明了树的点态一致性的充分条件，并比较了子采样与树在不同分割数量下的性能，结果表明，子采样在任何给定分割数量下都优于单个树，并且在分割数量较多时改进效果更明显，然而，如果单个树的大小选择不合理，则以最
PDF3 months ago
线性约束权重：减少激活漂移以加快神经网络的训练
在本文中，我们首先识别到神经网络中的激活偏移现象，通过线性约束权重（LCW）来减小激活偏移，研究了减小激活偏移对神经网络中变量方差的影响，并讨论其与梯度消失问题的关系。实验结果表明，LCW 能够通过解决梯度消失问题有效地训练具有 sigmo
PDF4 months ago
随机化可以降低偏差和方差：随机森林的案例研究
我们研究了随机森林相对于 bagging 方法减少偏差的现象，并通过实证研究发现在数据中存在模式时，随机森林在高信噪比情况下减少了偏差和方差，并优于 bagging 方法。对于随机森林中的随机性注入和参数调整也提供了实用的洞见。
PDF4 months ago
解释变分时间序列模型中的预测方差对于临床恶化预测的影响
使用 delta 方法计算模型预测方差，然后基于 Shapley 值计算变量的重要性，以提供临床决策支持，该方法适用于变分时间序列模型，并可在临床 ICU 数据集上实现预测性能和可解释性的平衡。
PDF5 months ago
从相关组件的可解释方差到无正交约束的 PCA
通过引入新的目标函数，衡量数据矩阵 A 相关分量 Y=AZ 所解释的方差部分，本文在对已有定义的解释方差的数学和数值特性进行全面研究的基础上，提出了两个最适合用作消除正交性约束的 block PCA 公式的目标函数。
PDF5 months ago
基于扩散的语音增强的方差分析
扩散模型在生成式语音增强中被证明是强大的模型。本文强调方差的规模是语音增强性能的主要参数，并显示它控制了噪声衰减和语音失真之间的权衡，更具体地说，较大的方差增加了噪声衰减并允许减少计算量。
PDF5 months ago
基于渐进语言观察的组合式零样本学习
在这篇论文中，我们提出渐进式基于语言的观察（PLO）方法，通过预测基于预先观察到的原语的组合类别，动态确定较好的原语观察顺序，使模型能够逐步理解图像内容。通过在三个具有挑战性的数据集上进行广泛实验，我们证明了 PLO 方法相比于最先进的方法
PDF7 months ago
批量贝叶斯优化用于可重复的实验设计
研究提出了 Batch Thompson Sampling for Replicable Experimental Design (BTS-RED) 框架，包含三个算法，用于解决实验设计中的多个条件同时评估和重复观测噪声大而异方差的问题。三
PDF8 months ago
机器学习软件故障预测的方差：我们真的在改进故障预测吗？
软件质量保证资源分配中的变异性分析及处理方法研究
PDF8 months ago
通过测试的选择非参数回归
针对误差关键的机器学习应用中存在的可能放弃预测（或选择性预测）的问题，本研究在非参数异方差回归问题上提出了一种通过对给定点上的条件方差值进行假设检验的放弃过程。与已有方法不同，提出的方法不仅考虑方差本身的值，还考虑相应方差预测器的不确定性。
PDF9 months ago
逆向渲染的联合采样和优化
使用 Monte Carlo 估算的梯度进行优化参数时，通过对每次迭代进行多个梯度样本的平均化可以减少方差。然而，对于需要进行数千次优化迭代的问题，这种方法的计算成本会迅速上升。我们推导了一个理论框架，通过交错采样和优化，更新和重复使用过去
PDF9 months ago
利用去噪扩散概率模型生成观测引导集合以进行数据同化
该论文提出了一种利用去噪扩散概率模型生成的伪集合的集合数据同化方法。由于该模型针对嘈杂和稀疏的观测数据进行训练，因此该模型能生成与观测接近的发散集合。由于所生成集合的方差，我们提出的方法在模拟模型不完美时表现出比成熟的集合数据同化方法更好的
PDFa year ago
ICML利用分解的动作空间进行脱机策略评估
通过利用分解行动空间的技术，我们提出了一种新的家族式重要性采样估计器，以减少现有 OPE 估计器的偏差和方差问题，同时保持零偏差的特性。
PDFa year ago
ES-Single 中展开计算图的低方差梯度估计
提出了一种基于进化策略的算法 ES-Single 用于计算未展开的计算图中的梯度，其通过对元损失表面的平滑化克服了递归函数应用中出现的混沌，与最近提出的持久进化策略（PES）类似，ES-Single 是无偏的；相比 PES，ES-Singl
PDFa year ago
均值场神经网络中有限宽度核和预测波动的动力学
研究了有限宽度效应及特征学习在神经网络中的动力学特性，通过动力学平均场理论描述了无穷宽深度神经网络内核和预测动力学，并证明了特征学习可以降低终极 NTK 和终极网络预测的方差。
PDFa year ago
变量复杂度加权温和吉布斯采样器用于贝叶斯变量选择
本文提出了一种新的分组加权温度调整 Gibbs 采样器无需计算后验包含概率 (PIP) 以降低总的计算量，我们还提出了与之相关的 Rao-Blackwellized 估计器的方差上界，并通过实验表明，相对于现有的子集 wTGS 方法，我们的
PDFa year ago