布隆地图
本研究探讨了在随机,密集的情况下,通过信息量论问题来解决在数据库中确定每个个体类型所需要的最小查询次数,我们建立了最小查询次数的上下边界,并解决了该问题。结论为解决该问题,通过图的欧拉流的高斯积分与其生成树多项式之间的恒等式,计算了该模型的退火自由能。
Nov, 2016
提出一种动态适应编码分布以匹配特定输入中的潜在数据分布的方法,通过估计更好的编码分布,并将其作为附加的辅助信息比特流进行压缩和传输,而后解码器使用该编码分布来解压对应的潜在数据。该方法在标准全分解架构上能够获得 - 7.10% 的 Bjøntegaard-Delta (BD)-rate 增益,并且在计算复杂性方面,与相关的辅助信息方法(如尺度超先验)相比,我们方法使用的变换在乘加(MAC)操作方面具有数量级上的更低成本。
Jun, 2024
提出了一种相对于符号丰度和相似度的熵的概念,引申到信息论中的几个概念和定理的几何意义,提出了一种与 Wasserstein 距离方法相当的理论,但具有可以高效计算的闭式表达式,通过实验表明了所提出方法的广泛应用性。
Jun, 2019
本文提出了一种统计查询下限技术,用于解决高维学习问题中高斯分布的学习和鲁棒性学习问题,并得出了样本复杂度和计算复杂度之间存在的超多项式差距,同时提供了一个新的方法来解决一些相关的无监督估计和测试问题。
Nov, 2016
研究使用 p 个服务器在大型数据库上并行计算简单查询 q 的通信复杂性,特别关注数据倾斜的情况下的情况,建立了查询的分数边覆盖与通信量之间的紧密联系,并提供了查询分数边覆盖的匹配上界和下界,所有下界都以比特通信量的形式表达。
Jan, 2014
文中提出了一种利用概率去相关引理、对测度空间中的的概率测度进行对称化、配对和链化等技术来获得学习算法信息论泛化界限的一般性方法,进而得到新的期望值和高概率条件下泛化误差的上界,特别地,还包括了基于互信息、条件互信息、随机链和 PAC-Bayes 不等式等现有泛化界限的特例。此外,Fernique-Talagrand 上界也是一个特例。
May, 2023
本文提出了一种新方法,利用球解码概念来计算高斯混合分布的熵,以降低复杂度并提高准确性;此外,我们还提出了一种基于信噪比区域的近似方法,可进一步降低复杂度。通过基于蒙特卡罗模拟的实验,本文所提出的方法成功地计算了包含熵项的相互信息,适用于二进制以及二次幅度调制(QAM)输入等通信应用中的各种信道。
Feb, 2015