关键词information-theoretic measures
搜索结果 - 9
- 表示形式作为语言：一个信息论解释的框架
通过一种新颖的可解释性方法，该论文使用信息论度量量化了神经模型对输入的表示的结构化程度，从而预测模型的泛化能力，并发现模型的代表性和噪声强度有关。此外，研究还研究了模型大小对表示空间结构的影响。
- S$Ω$I: 基于评分的 O - 信息估计
分析科学数据和复杂的多元系统所需的信息数量，为了捕捉多个随机变量之间的关系，最近开发了新的信息理论度量方法，其中多变量系统中协同作用和冗余的概念对于理解高阶依赖关系至关重要。在这项工作中，我们介绍了一种名为 SΩI 的方法，它首次允许在不受 - 基于信息融合的动态时空摘要
我们提出了一种动态时空数据汇总技术，它能够识别关键时间步骤中的信息特征并融合不太相关的特征，从而在保留数据动态性的同时最小化存储需求。利用信息论度量指导融合过程，我们展示了该技术在多样化数据集中的灵活性，并在粒子流模拟、安全监控应用和免疫系 - 通过正确性和信息性评估推理链：ReCEval
利用信息论度量和自然语言推理模型，以信息性和正确性为关键属性构建 ReCEval 框架，评估认知链作为形式证明推导出最终答案的有效性和质量，以提高思维任务的表现。
- 从观测时间序列推断扩展摘要因果图
研究使用信息理论度量方法，在因果发现框架中使用 PC 和 FCI 算法构建基于任意延迟或瞬时关系的扩展摘要因果图，并通过模拟和真实数据集进行实验验证。
- 黑匣子分类器生成因果解释
通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。
- 基于贝叶斯变分自编码器的无监督异常检测
为了解决深度神经网络在面对训练数据分布不同的测试数据时可能会出现的不可靠预测问题，我们提出基于贝叶斯变分自编码器模型的概率无监督方法，以此来检测输入空间和模型潜在空间中的群集分布异常。
- 使用分段对数和指数不等式保证单变量混合体的 Kullback-Leibler 散度
该研究提出了一种快速通用的方法，可以对混合模型的熵、交叉熵和 KL 散度的闭合形式下限和上限进行算法生成。
- 量化协同互信息
本研究介绍了一种新型协同效应计量方法并对其与其他三种信息理论方法进行了比较，研究表明本研究方法可准确测量多个变量对于单一结果变量的协同效应，同时也证明独立预测因子可以具有积极的冗余信息。