- 信任语义分割网络
该研究通过对不同模型进行实验,探讨了通过使用熵等简单度量方法来捕捉高召回率的错分情况,以分析语义分割中的失败案例和预测准确性的问题。
- ACL语言模型模拟特定的认知模式:可预测性度量如何与个体差异相互作用的研究
通过整合语言用户的认知能力信息,重新评估了从多种语言模型中估计出的意外性和熵的预测能力,以读时数据作为对处理工作的度量,研究发现大多数情况下,整合认知能力提高了意外性和熵对读时的预测能力,并且研究结果表明分析的语言模型模拟了具有较低语言智力 - ACL那是可选的:对英语从属从句中 “that” 省略的现代探索
本文研究了信息密度均匀性原则对句法简化的影响,特别关注英语从属从句中连接词 “that” 的可选省略。借鉴以往研究,我们扩大了研究范围,利用现代大型语言模型和熵的概念来估计句法简化选择中信息均匀性原则的体现。
- EntProp:提高准确度和鲁棒性的高熵传播
通过混合分布中的辅助批归一化层实现的解缠耦学习技术能够提高深度神经网络的标准准确性和对于外部分布域的鲁棒性。本文提出了高熵传播(EntProp)方法,通过增加样本的熵来生成远离内部分布域的样本,并通过数据增强和自由对抗训练技术实现,从而能够 - CoCo 矩阵:智能代理协作与认知贡献分类
通过采用 Flower 和 Hayes 的认知过程理论,我们提出了 CoCo Matrix,这是一个基于熵和信息增益的二维分类法,用以描述新的人工智能写作系统与人类合作写作的模型。我们将三十四个已发布的系统位于四个象限中,发现低熵高信息增益 - 从顺序信息处理的瓶颈中获取语言结构
人类语言是一种独特的自然界沟通方式,其系统性在于信号可以分解为词汇并通过一种规则方式组合成句子,且通过最小化过剩熵的方式实现自然语言一致性,进而达到高效的沟通和信息处理。
- 分词前置名词熵低于分词后置名词
通过测量语义关系的强度,对比复合结构和短语结构中的离散度,我们发现复合结构在表达分词和前分词名词之间的语义关系时比短语结构更为约束,这与我们的预测相符。此外,我们探讨了这些预测如何与语法特性和处理因素相联系。
- 基于自由能原理的在观测噪声下无害探索的内在回报的模拟研究
在强化学习中,人工智能代理通过执行任务来最大化数值奖励,探索是至关重要的,因为代理必须在利用之前发现信息。熵和好奇心是促进有效探索的两种奖励方式。这篇论文基于自由能原理(FEP)提出了隐藏状态好奇心,并发现熵和好奇心可以实现高效探索,特别是 - CVPR为低光图像增强提供可微分的空间熵的扩散模型装备
提出了一种基于统计的熵损失方法,通过引入空间熵,强调对分布而非个别像素值的学习,利用核密度估计以使得熵可微分,并在实验证明了其在低光增强方面的有效性。
- 幅度相位融合提升心电图形态分析
提出了一种新的融合熵度量方法 —— 形态心电图熵(MEE),用于全面描述振幅和相位模式的融合,通过对节拍级样本进行计算,可以对每个心脏周期进行详细分析,实验结果表明,MEE 能够快速、准确、无标签地定位异常心电图心律失常区域,这个熵度量方法 - 最大随机排列集熵的极限
RPS 的熵的包络是通过计算 RPS 熵的上限获得的,与常数 e 和阶乘高度相关,通过降低计算复杂度提供了一种理解 RPS 物理意义的新方法。
- 使用 InTEnt 进行医学图像分割:整合熵权重的单图像测试时适应性
通过使用在训练和测试统计数据之间进行的基于熵统计的加权目标域统计估计的预测整合方法,我们解决了在只有单个无标签测试图像的情况下,适应医学图像分割模型的任务。
- 利用大型语言模型提升实体解析技术
本文研究了大型语言模型在实体解析过程中的潜力,包括利用语言模型的优势以及大规模匹配所涉及的计算复杂性,并提出了一种选择最有效匹配问题的策略,同时限制消耗预算,以减少实体解析的不确定性。通过熵作为度量标准评估我们的方法的效果,实验结果证明了我 - 基于强化学习的离散时间均值方差策略
本文基于强化学习研究了一个基于离散时间的均值方差模型,与其在连续时间中的对应物相比,离散时间模型对资产收益分布作出了更一般的假设。使用熵来衡量探索成本,我们得出了最优投资策略,其密度函数也是高斯型的。另外,我们设计了相应的强化学习算法。模拟 - XXI 世纪的 Tabula Recta 是否能提供安全性?
在计算机完全被妥协的情况下,本文讨论了基于共享文本源的熵集中、非二进制空间算术的流密码和从挑战文本生成密码的哈希算法等几种人类可计算算法在该情况下能够提供足够安全性,并通过计算机统计分析得出结论。
- 使用抗噪扩散谱熵评估神经网络训练过程中的表示
我们通过利用数据几何形态来计算熵和互信息,从而可靠地评估高维数据中的学习过程,证明其在分类网络中的增长和影响。
- 通过主成分分析实现神经网络特征化和熵调节的数据平衡
本文研究了神经网络行为与数据记录在训练数据的低阶主成分所构成的分布之间的关系,通过评估每个直方图箱子相关的熵来实现简单的数据平衡程序。
- 引入一种改良的信息论预测不确定性度量
应用机器学习模型进行决策需要区分模型所知与不知的内容。本文提供新的洞见,揭示当前预测不确定性度量的局限性,并引入了一种理论上可靠的度量方法来克服这些局限。实验证明,我们引入的度量方法在控制的合成任务中表现得更加合理,并且在利用预测不确定性的 - 关于利用冯・米塞斯估计器进行条件独立性检验的样本复杂性及其应用于因果推断
基于我们的估计器建立的多元分布的熵的非参数 Von Mises 估计器,在条件独立性测试这一关键步骤上受到启发,我们设计了一种基于估计器的条件独立性测试(VM-CI),在光滑性假设下达到了最优的参数速率。利用指数集中不等式,我们证明了 VM - 词曲创作者熵对词曲创作者分类性能的影响
通过观察歌词作家与歌手的关联性,研究表明歌词 - 作家分类表现与歌词作家与歌手的关系密切相关,而在与歌手关联度最低的组别中,获得了最佳的 F1 得分,这提示进一步分析对于提取歌词作家特征的任务可能会提高歌词 - 作家分类表现。