- 面向子群体的公平感知反事实
介绍了一种用于审计子组公平性的框架,通过反事实说明来指出不同方面中某些子组个体实现补救的困难,提出了不同基本的子组公平概念。同时,提出了一个高效的,模型不可知的,高度可参数化和可解释的子组公平评估框架,并对不同基准数据集进行了彻底的实验评估 - ICML运用反事实推论改善道德推理 —— 思想实验
本文提出了一种名为 Thought Experiments 的新提示框架,通过反事实让语言模型学习更好的道德推理。实验结果表明,使用这个提示框架可以消除 Moral Scenarios 任务的错误率,并且少量的人类监督可以显著提高任务的准确 - 对可逆潜在因果模型领域反事实的描述
本文针对特定类型因果查询 - 领域反事实进行研究,提出了一种基于不同领域、环境生成数据集合的领域特定可逆潜在因果模型,并证明通过两个可逆函数可以将任何模型转化为等价模型,同时表明只允许干预最后 $k$ 个因果变量的算法可以提高反事实估计的模 - 揭示视频问答模型中联合多模态理解的幻觉
通过 QUAG 探究 VideoQA Transformer 模型对于多模态结构与动态的理解,提出对于多模态 VideoQA 表示的可靠性检验,CLAVI Benchmark, 通过对反事实情景的测评,发现目前的模型在处理多模态 Video - 利用反事实分析向医生解释机器学习决策
本研究提出一种基于变分自编码器的反事实生成方法,以改进机器学习模型在医疗领域中的解释性问题,并生成更加逼真、相关的反事实情景。
- ICML针对任务的治疗效果估计实验设计
通过任务特定的实验设计和推导到定制特定下游应用程序的采样策略,我们提出了一种更节省样本数据的替代随机对照试验的方法,用于因果推断,并在各种重要任务,实际数据集和样本大小的情况下,胜过其他基准,例如需要一种数量级的数据才能在定向营销任务中达到 - 自然语言解释的忠实度测试
本文探讨评估自然语言解释(NLEs)忠实度的挑战性问题,提出了两个测试:第一个是插入导致反事实预测的原因的反事实输入编辑器,第二个是从生成的 NLEs 中说明的原因中重建输入并检查它们导致相同预测的频率。我们的测试可以评估新兴的 NLE 模 - CREATED: 为预测过程分析生成可行的反事实序列
该研究提出了一种无需领域知识的通用框架来生成可行的反事实序列,其包括使用马尔可夫模型计算可行性并调整三个度量以确保其整体的可行性,相较于需要领域知识的最新方法表现良好,并且可以生成可行的反事实序列。
- MM人工智能中的归因分数和因果反事实解释
本文介绍了解释在人工智能中的重要性,特别是解释方法的新发展。通过讨论基于属性分数和因果关系的反事实解释法,强调了逻辑推理在处理反事实时的重要性和其对评分计算的作用。
- 借助真实样本的渐进邻域逼近解释文本分类器
针对文本分类器的局部模型无关解释,提出了一种渐进逼近方法,它通过两阶段插值使用反事实来完善待解释决策的领域,从而提高了邻域质量。通过试验,证明了该方法的有效性。
- CEnt:一种基于熵的模型无关可解释性框架,用于对比分类器的决策
本论文提出了一种基于决策树、熵、对抗性生成模型等方法的可解释性算法 CEnt,能够生成种类多样性的反事实证明,不但在可行性、达成性等方面较现有方法表现更好,并且在 MNIST、Fashion MNIST 等数据集上进一步推广并成功用于文本分 - WWWELH 概念的反事实解释
本研究提出首个在描述逻辑中生成反事实解释的算法,通过调整特征值来生成可被人类理解、人性化的解释,在用户调查和案例研究中证明其可行性。
- 未来的反事实
本文研究的是针对选项干预的计数事实正反向两种方法 —— 干预方法与正向方法的偏差是如何导致直觉上不符合的结果的,该研究发现当系统中的外生噪声具有一定的单位特异性结构和 / 或稳定性时,正向方法的使用可以更合适。
- 超出模型可解释性:对比文本解释的忠实度和对抗鲁棒性
本文介绍了一种通过对比解释方法,以可解释性和新建议形式提高分类器预测的可行性。该方法在文本数据上的应用情况得到了分析和评估,以及对研究所提供的度量标准的可靠性进行了初步的验证。
- 基于因果代理模型的概念模型解释
本文旨在探讨对于自然语言处理系统的解释方法中存在的因果推理问题,提出了一个新的 Causal Proxy Model (CPM) 方法,它可以通过近似反事实样本来创建强大的因果解释模型,解释模型性能与黑盒模型类似甚至更好。
- 因果推断在银行和保险分析型客户关系管理中的应用
本研究运用因果推断的原理解决分析顾客关系管理问题(ACRM)的可解释性,并提出改变 ACRM 数据集功能的干预解决方案,进而获得一组反事实证明的质量良好的数据。
- 概率变分因果效应:因果推理的新理论
本文提出了一个新的因果框架,能够解决概率和非概率问题,引入了直接因果效应公式 PACE 及其变种,并提供了计算反事实因果的可辨识性标准,对观察研究进行了处理,与其他框架进行了比较。
- 健康是什么?用生成对抗扩散定位损伤的方法
本文提出一种使用生成扩散概率模型生成反事实图来推断脑病变像素级预测的方法,并且通过隐含指导和注意力调节来操作生成过程,从而提升了之前的方法。
- ICML一种查找反事实的查询优化算法
本研究设计了一种算法来查找反事实,使得与现有算法相比,其在性能上具有更强的理论保证,并且可以为给定实例返回最优的反事实近似实例。
- MM因果机器学习:调查和开放问题
本文介绍了因果机器学习(CausalML)方法,该方法将数据生成过程形式化为结构性因果模型(SCM),并从因果的角度探讨了干预和反事实的影响,同时将该方法归类为五类:因果监督学习,因果生成建模,因果解释,因果公平性和因果强化学习,并比较了每