- 通过强健信息瓶颈提取强健精准特征
提出了一种用于在监督学习中提取特征的新策略,该方法在信息瓶颈的基础上引入了一个额外的惩罚项来鼓励提取的特征的 Fisher 信息在参数化输入时变小,从而实现分类器的更好鲁棒性。
- 通过 Föllmer 过程稳定的对数 Sobolev 不等式
研究高斯对数 Sobolev 不等式的稳定性和不稳定性,给出了协方差,Wasserstein 距离和 Fisher 信息矩阵等多种可信度的度量方式并回答了一些问题,同时提出了一种新的相对于混合高斯分布进行稳定性评估的概念并给出了相关的估计方 - 通过费舍尔信息在通信约束下学习分布的下界
研究如何在分布式网络中学习高维、非参数和结构化(如高斯)分布,并考虑不同通信模型(包括独立、顺序和黑板模型)的交互限制对于最小化风险和 Fisher 信息的影响。
- 对数损失下的向量高斯 CEO 问题及应用
研究了基于对数损失扭曲度量的矢量高斯首席执行官(CEO)问题,找到了该模型的速率失真区域的显式特征,并通过利用 de Bruijn 恒等式和 Fisher 信息的特性得到了外边界。此外,证明了高斯测试信道所采用的分时测试可以用于研究该问题的 - AAAI在费舍尔信息度量下的对抗攻击与检测
本文利用信息几何,提出了一种基于 Fisher 信息和一步谱攻击 (OSSA) 的深度学习模型易遭受对抗攻击的合理解释,并提出了具有较高效率和性能的对抗攻击和检测算法,这为研究对抗攻击和防御提供了一种有前途的途径。
- 利用 NLOS 成分在 5G 毫米波 MIMO 系统中进行位置和方向估计
本研究旨在探讨基于 5G 技术中的 NLOS 组成部分在位置和方向估计中的作用,并基于 Fisher 信息的概念表明在具有足够高的时间和空间分辨率时,NLOS 组成部分始终提供位置和方向信息,并且这些信息对估计的准确性产生积极影响。此外,通 - Lipschitz ball 上的熵估计的最优速率
本论文研究了在 Lipschitz ball 中无界密度的极小极大熵估计,使用 Orlicz 函数得出了新的估计率,并探讨了核密度估计的最坏情况表现以及与 Fisher 信息相关的不等式。
- NIPS分层表示的特征变形
通过使用 Fisher 信息的层级图像表示,我们比较了视觉敏感度和各种图像表示之间的关系。我们发现 VGG16 的早期层比人类感知和一个训练基于人类评分的图像质量的 4 阶级卷积神经网络匹配度更高,简单的早期视觉处理模型比 CNN 或任何 - 大规模智能表面位置定位技术的潜力探究
本文研究了一种新型的智能表面定位系统,分析了中心垂线上及其他位置终端的 CRLB 和 Fisher-information。同时,讨论了中心化和分布式部署的影响,发现分布式部署可提高覆盖范围和性能。
- Fisher 信息教程
本文讲述了在统计学及数学心理学的多个应用中,Fisher 信息量扮演着重要的角色,并阐明了在三个统计学范式中 Fisher 信息的不同应用:第一,在频率学派范式中,Fisher 信息被用来建立假设检验和置信区间,使用最大似然估计量;第二,在 - 学习大型复杂模型的相对自然梯度
通过提取神经元系统的局部组件,定义相对的费舍尔信息度量并演示了如何利用这一概念进一步改进优化,提高神经网络的学习效果。
- 高维 Wishart 矩阵中的熵集中定理和相变
研究高维 Wishart 矩阵及其与高斯模型的相似性,发现存在信息论的相变现象,并探讨其与 Fisher 信息熵的关系。
- 分部积分及信息泛函的表示
引入一种新的形式主义,通过使用广义分部积分公式来计算任意随机向量的函数期望,并推导出一些信息论中心极限定理的收敛速度。
- 有关互信息和统计估计准确度的一些关系
该研究探讨了互信息与统计估计误差之间的关系,通过总结 MI 与 Fisher information 之间的二阶关系、MI 与最小均方误差之间的下限关系,以及在有干扰参数的情况下 MI、FI 和 MMSE 之间的不等式和对应关系等,揭示了信 - 复制方程作为推断动态
本研究将复制子方程解释为连续推理方程,并描述了离散复制子方程与贝叶斯推理之间的形式相似性,进一步阐明了推理和复制子方程之间的联系,包括讨论信息分歧和指数族作为复制者动态解的解决方案,使用 Fisher 信息和信息几何。