Fisher-Rao 距离的近似和界定技术
本文介绍了一种快速且鲁棒的方法来近似计算多变量正态分布之间的 Fisher-Rao 距离,同时将正态分布流形通过微分同胚嵌入到高维对称正定锥面的子流形中,并使用锥面上的投影 Hilbert 距离作为距离度量,通过拉回锥面距离来获得正态分布之间的距离和平滑路径,这种方法在计算复杂度上比 Fisher-Rao 距离近似方法更轻量级,在聚类任务中具有应用价值。
Jul, 2023
当处理参数统计模型时,将参数空间赋予费舍尔信息度量可以自然地产生一个黎曼流形,由该度量引导的参数几何称为费舍尔 - 瑞奥信息几何。有趣的是,这为利用微分几何中的许多工具提供了一个视角。介绍这些概念后,我们将在椭圆分布框架中呈现这些几何工具的一些实际用途,这部分内容主要包括协方差矩阵估计的黎曼优化、内在克拉默 - 瑞奥界限以及使用黎曼距离的分类。
Oct, 2023
本文采用几何方法研究 Fisher 距离(用于测量两个概率分布函数之间的差异),并在多种统计模型中应用超几何几何学推导 Fisher 距离,同时设计与 Kullback-Leibler 差异测量的关联。
Oct, 2012
本文定义了一种新的运输度量,该度量插值了二次 Wasserstein 和 Fisher-Rao 度量,并将优化运输推广到具有不同质量的度量,通过在连续性方程中引入源项来定义该度量。
Jun, 2015
本文研究了一类统计希尔伯特距离,称为 Schoenberg-Rao distances,引入了一种原则性的构建条件负半定核函数的方法,推导了混合高斯分布的新闭合形式距离,是 Wasserstein 距离的实用替代方案,并在密度估计、生成建模和混合简化等广泛的机器学习任务上展示了其有效性。
Feb, 2020
拉普拉斯方法是一种近似目标密度函数的高斯分布方法,通过选择黎曼几何进行变换,可以提供更丰富的近似函数族,具有计算效率高的优点,并且通过引入两个可选的变种提高了无限数据极限下的准确性。
Nov, 2023
通过定义一种新的测量方法,该研究论文探索了拉伸测量技巧的应用,以保留数据流形的固有结构,并将推拉式度量与预期长度的度量方法进行比较,从而在高维中评估这些测量的收敛性。
Dec, 2022
本文提出了一个新的两阶段度量学习算法,首先通过计算到一组固定锚点的相似度将每个学习实例映射到概率分布,然后在关联的统计流形上定义输入数据空间上的 Fisher 信息距离,这在输入数据空间中引入了一组具有独特特性的距离度量,不像核化度量学习,我们不需要要求相似度度量是半正定的,而且也可以被解释为具有良好定义的距离逼近的局部度量学习算法。我们在多个数据集上评估了其性能,它明显优于其他度量学习方法和支持向量机(SVM)。
May, 2014
使用 Riemannian 几何工具研究了概率生成降维模型的几何结构,以高斯过程为基础,定义了一种度量分布,利用度量在潜变量空间中进行插值并测量距离,从而更恰当地生成新数据。
Nov, 2014
从不变性观点研究深度神经网络的几何和容量度量之间的关系,引入了具有期望不变性的 Fisher-Rao 范数作为新的容量概念,并发现了其分析特征和规范比较不等式,证明了其作为多种基于范数的复杂度度量的伞兵角色,讨论了引入新的度量方式对泛化误差的影响,使用 CIFAR-10 数据集的大量数值实验支持了理论分析的发现,研究的分析基于多层整流器网络局部导数的关键结构引理。
Nov, 2017