- 关于扰动 - Softmax 和扰动 - Argmax 概率分布的统计表示特性
通过对凸性和可微性的研究,我们探索了 Gumbel-Softmax 和 Gumbel-Argmax 概率分布模型的统计条件,并将这种框架扩展到高斯 - Softmax 和高斯 - Argmax 等通用概率模型,最终得出两组参数满足这些假设并 - 沃瑟斯坦梯度提升:一种应用于后验回归的通用框架
Wasserstein gradient boosting is a novel ensemble method that uses Wasserstein gradient to approximate a target probabil - 多层次汉密尔顿蒙特卡罗
提出了一种新型的两阶段哈密顿蒙特卡罗算法,通过使用一个廉价的可微分代理模型计算接受率,在第二阶段使用高保真度(HF)数值求解器评估后验分布,以高效地逼近后验梯度并产生准确的后验样本,成功地解决了哈密顿蒙特卡罗算法在计算和统计效率方面的限制, - 连续归一化流在概率分布学习中的收敛性
通过连续归一化流(CNFs)和线性插值,我们研究了采用匹配流目标函数学习概率分布的 CNFs 在从有限随机样本中学习概率分布方面的理论属性,并建立了基于 Wasserstein-2 距离的分布估计器的非渐进误差界。
- 高维度中的多个均值向量估计
基于独立样本,我们尝试估计各种概率分布的共同空间上的多维均值。我们的方法通过凸组合样本的经验均值来形成估计器。我们介绍了两种找到合适的数据依赖凸组合权重的策略:第一种策略利用测试过程识别方差较低的相邻均值,从而得到一个权重的闭式插值公式;第 - 关于多项式混沌展开的分数矩估计
本文提出了一种新颖的方法,通过多项式混沌展开直接从确定性 PCE 系数估计任意分数矩,应用于不确定性量化的各种任务,包括概率分布估计。在三个逐渐复杂的数值示例中,所得到的结果表明,与所呈现的标准拉丁超立方抽样相比,所提出的方法在估计响应分布 - 时空桥扩散
该研究介绍了一种新的方法,用于从高维实值概率分布中生成独立同分布的新合成样本,该分布由一组地面真实样本隐含定义。该方法的核心是通过跨时空维度的空间 - 时间混合策略来整合,以实现从易于处理的初始概率分布到由地面真实样本表示的目标分布的最佳传 - ICLR稳定分布传播的不确定性量化
基于局部线性化的方法来通过神经网络传播稳定的概率分布,以量化其输出的不确定性。
- 无穷范数下的分布估计
给出了估计离散概率分布的新界限,这些界限在各种准确意义上几乎是最优的,包括一种实例最优性。我们提出的基于数据的最大似然估计的收敛性保证显著改进了目前已知的结果。我们利用和创新了多种技术,包括切诺夫型不等式和经验伯恩斯坦界。在合成和真实世界实 - 用于高效重建随机微分方程的平方 Wasserstein-2 距离
我们提供了关于两个随机微分方程(SDEs)相关的两个概率分布的平方 Wasserstein-2($W_2$)距离的分析。基于这个分析,我们提出了使用基于平方 $W_2$ 距离的损失函数来从噪声数据中重构 SDEs。为了展示我们的 Wasse - 用于核高斯混合模型的最优传输
通过核技巧在再生核希尔伯特空间中提出了计算两个高斯混合模型之间距离的沃瑟斯坦类型度量的方法。
- LIPEx -- 局部可解释性概率解释 -- 超越真实类别
本研究介绍了一种新型的基于扰动的多类别解释框架 LIPEx(局部可解释的概率解释),证明 LIPEx 不仅可以局部复制广泛使用的复杂分类模型输出的概率分布,而且还可以提供关于每个被认为重要的特征如何影响每个可能类别的预测概率的见解。研究通过 - SyMOT-Flow: 学习最大均值差异下的两个任意分布的最优输运流
介绍了一种名为 SyMOT-Flow 的新型模型,通过最小化两个未知分布样本之间的对称最大均值差异,训练可逆转换,并结合最优传输成本作为正则化以获得短距离和可解释的转换,从而导致更稳定和准确的样本生成。
- Moreau-Yoshida 变分传输:用于解决正则化分布优化问题的通用框架
我们提出了一种名为 Moreau-Yoshida Variational Transport(MYVT)的新方法,用于解决正则化的分布优化问题,该方法包括优化、概率分布、正则化估计和生成建模以及原始 - 对偶算法。
- 单目深度估计的不确定度度量与建模
通过引入额外的训练规范项,我们的模型不需要额外的模块或多重推论,可以提供具有最先进可靠性的不确定性估计,并且与组合或抽样方法相结合时可以进一步改进。
- LINFA:一款用于具有归一化流和退火的变分推断的 Python 库
用于近似概率分布的变分推断方法在统计学和机器学习中越来越受欢迎。我们开发了 LINFA(具有归一化流和退火的推断库),这是一个 Python 库,用于处理计算代价高的模型和具有相关参数的难以采样的概率分布。我们讨论了 LINFA 在各种基准 - 机器学习中的最优传输近期进展
本研究综述了 Optimal Transport 在机器学习中的应用,特别关注于监督、无监督、迁移和强化学习领域,并重点介绍了计算 Optimal Transport 的最新发展及其与机器学习实践的相互作用。
- 超越常规:互信息估计评估
本文构建了一个多样的分布族,展示了语言无关基准平台用于互信息估计器的实用性和局限性,并提出了适应问题困难度的适当估计器的选择指南及应用估计器时需要考虑的问题。
- 平方神经族:一种新的可计算密度模型类
提出一种新的概率分布类别,称为平方神经族 (SNEFY),通过计算神经网络的 2 - 范数来形成,并在基础度量方面进行归一化。 SNEFY 比传统指数家族更灵活,具有可追溯的边缘分布,能够广泛应用于密度估计和条件密度估计任务。
- 基于提示的方法可能会低估大型语言模型的语言泛化能力
本文比较了元语言激励和直接概率测量作为衡量英语知识的方法,并发现大语言模型的元语言判断低于直接从表示中派生出的数量。