通过因果关系解释的虚假相关的条件互信息，我们提出了一种信息熵偏差测量技术，可以有效地识别基于特征的算法偏差，并设计了一种新颖的基于偏差正则化损失的去偏差框架和一种基于随机标签噪声的简单而有效的非监督去偏差技术。

Jan, 2022

用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

Dec, 2023

本文提出了基于干预因果模型的解释方法来计算特征变化对输出的影响，从而得到新的样本。同时也发现在生成图像方面当前模型的局限性。

Sep, 2019

最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

Mar, 2024

该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

Dec, 2021

我们将 CAVs 从事后分析扩展到事前训练，通过使用额外的概念损失进行微调来减少模型偏差。我们还引入了概念蒸馏，使用预训练的知识模型作为教师来创建更丰富的概念。我们展示了概念敏感训练在去偏、分类问题和重建问题中的应用，可以提高模型的可解释性，减少偏差并引入先验知识。

Nov, 2023

本研究提出了一种满足线性性、递归性和相似性三个重要公理的模型无关的概念解释方法，并与先前的概念解释方法建立了联系，实验证明了该方法在模型选择、优化器选择和使用一种启发式编辑方法改进零样本视觉语言模型方面的实用性。

Jan, 2024

本研究旨在解决机器学习模型预测个体实例时特征贡献和整体特征重要性的估计问题，提出了一种基于假设理想实验的因果效应定义，并构建了基于因果效应的透明且有意义的本地和全局解释方法，其数据驱动估计和实验验证表明了该方法的有效性及实用性。

Jun, 2022

DiConStruct 是一种基于概念和因果关系的解释方法，目的是通过结构性因果模型和概念归因来创建更可解释的局部解释，并有效地近似黑盒机器学习模型的预测，而不影响预测任务。

Jan, 2024

从观察性文本数据中估计因果效应时，考虑潜在协变量的调整至关重要。然而，现有方法只考虑影响治疗和结果的混杂协变量，可能导致偏倚的因果效应估计。本研究旨在通过揭示不同变量之间的相互作用来解开估计文本因果效应时的非混杂协变量，从而减小偏倚。解开过程确保协变量只对各自的目标贡献，实现变量之间的独立性。此外，我们引入约束条件来平衡治疗组和对照组的表示，以减轻选择偏倚。在不同场景下，我们对两种不同处理因子进行实验，实验证明了我们提出的模型明显优于最近的强基线。此外，对收入电话会议记录的彻底分析表明，我们的模型能够有效解开变量，进一步的研究为投资者提供了决策指南。

Nov, 2023