- 通过神经表征不确定性降低和神经特征空间自我监督进行涂鸦辅助的语义分割
本文提出了使用手绘标注直接进行语义分割的方法，通过最小化熵和网络嵌入的随机游走等全局操作来降低不确定性，在神经网络特征空间上进行自监督训练以保持预测的一致性，在随机缩小或丢弃 scribbles 的情况下也能获得上乘的效果。
- 带约束的多目标贝叶斯优化的改进最大值熵搜索
MESMOC + 是 Max-value Entropy Search for Multi-Objective Bayesian Optimization with Constraints（MESMOC）的改进版，用于解决评估昂贵的约束多目 - EMNLP通过不确定性理解神经网络抽象摘要模型
通过对两个已预训练模型 PEGASUS 和 BART 进行分析，本文探讨了在两个文本摘要数据集上，token-level 预测的不确定性与模型规律的关系，发现模型在复制标记而非生成新文本的情况下，预测熵值较小；同时，不确定性与句子位置、相邻 - EMNLP演讲者通过上下文填补词汇语义空缺
通过研究 18 种不同语言中的单词，文章证明了词汇歧义的大小与上下文提供关于其信息量的相关性，从而推断有歧义的单词可以在上下文中被澄清，使其更好理解。
- ESPRESSO：面向处理异构传感器数据的熵和形状感知时序分割
本文提出了基于时间序列熵和形态学特性的 ESPRESSO 模型，在多维时间序列上进行分割，以提取信息丰富且有意义的时间段，该模型在七个公开数据集上表现优异，在人类活动识别、轨迹预测、手势识别和生活记录等应用场景中有着广泛的应用前景。
- AAAI基于非参状态熵估计的策略梯度无任务探索
本文通过提出新的策略搜索算法 MEPOL（Maximum Entropy POLicy optimization)，并在实验中展示了它在高维、连续控制领域中学习最大熵策略的能力，为研究 agent 在无奖励环境中探索最优策略的内在目标提供了 - 机器学习中应用的次模组合信息度量
本论文研究广义独立性、熵、互信息和总相关度等集合上的组合信息度量，这些度量通过子模函数进行参数化，严格推广了相应的熵度量。我们证明，对于大类满足一种非负性条件的子模函数，与另一个参数固定的情况下，子模互信息实际上是一种子模函数。我们将这种度 - ICMLAR-DAE: 基于无偏神经熵梯度估计的研究
该论文介绍了一种名为 AR-DAE 的方法，利用其逼近概率密度函数的梯度来估计熵的梯度，并通过该方法在密度估计和连续控制问题中实现了最先进的性能。
- 学习基于上下文的非局部熵建模用于图像压缩
本文提出了基于全局相似性的非局部关注块来进行上下文建模，在熵编码中应用该方法，进而在联合速率失真优化中引导分析转换与合成转换网络的训练，并最终使用 U-Net 块增加转换的宽度，从而在 Kodak 和 Tecnick 数据集上实现了超越现有 - ACL音位结构复杂性及其权衡
本研究介绍了一种计算语音统计复杂度的方法，在给定来自不同语言的序列化单词和样本统计模型的基础上，通过负对数概率的近似值来比较语言的熵，发现 bits per phoneme 与平均单词长度之间呈现非常强的负相关关系
- 多元信息内容的通用度量
本文提出一种新的多元信息量度方法，利用 Venn 图表明任意数量随机变量的信息内容，其基于信息共享的代数结构，考虑观察者共享信息的不同方式与不同阶数的信息关系，得到一种自由分配格的元素。通过联合信息和共享信息量的代数结构，得到了偏向分解所表 - MM机器学习中的熵
本论文将计算二进制配置 / 信号熵的问题转换为一系列有监督的分类任务，使用机器学习分类算法计算熵，并直接从给定温度下的一组蒙特卡洛配置计算自由能，进而重现了 2D 伊辛模型的熵和自由能，并可以应用于计算尖峰神经元或任何其他多维二进制信号熵。
- GAIT: 信息论的几何方法
提出了一种相对于符号丰度和相似度的熵的概念，引申到信息论中的几个概念和定理的几何意义，提出了一种与 Wasserstein 距离方法相当的理论，但具有可以高效计算的闭式表达式，通过实验表明了所提出方法的广泛应用性。
- 神经熵估计：一种更快的互信息估计方法
提出了一种更快的方法，称为互信息神经熵估计（MI-NEE），其将互信息估计变为估计熵的过程，通过使用自定义参考分布和选择均匀分布作为参考分布来实现更快的收敛。
- 基于图距离模拟网络人口
本文提出一种新的模型类别，通过引入基于 Frechet 平均图和控制分布密度的参数，以及基于层级 bayesian 方法的策略，实现多网络数据分析和模拟研究。
- CVPR最大熵方法在图像表示中的信息泄漏缓解
本文探讨了学习最小化图像表示中的信息泄露的问题，并通过对抗性非零和游戏的形式表述该问题，提出了一种新方法。实验结果表明，该方法能够学习高任务性能的图像表示，同时减少了预定义敏感信息的泄露。
- 无参考颜色图像质量评估：从熵到感知质量
本文提出了一种名为基于熵的无参考图像质量评估（ENIQA）的方法，该方法结合空间域和频率域的熵和互信息等特征，并使用支持向量分类器和回归进行质量预测和失真分类，能够评估各种失真图像的质量，且具有低复杂度和优秀的性能。该方法在 LIVE 和 - 深度神经网络的熵受限训练
该研究提出了一种神经网络压缩的通用框架，通过最小描述长度原则和熵来量化其复杂度并使用基于梯度的优化技术实现了优秀的压缩结果。
- 关于伊辛模型中多项式集中度的注记
本文提出了精确的多层指数集中不等式，其适用于满足 Dobrushin 条件的 Ising 模型中的多项式。此外，我们还证明了凸函数的集中性结果和非负定二次型的估计。
- 主动学习中的对抗抽样
该论文提出了一种新的基于 GAN 的主动学习方法 ASAL，它能够生成高混沌样本，通过从样本池中搜索相似的样本，在训练中将它们包含在内，提高了新样本的质量并使注释更可靠。ASAL 是第一种适用于多类问题的基于 GAN 的主动学习方法，优于随