- 一种可行的反事实探索框架:融合因果关系、稀疏性和密度
通过对属性的逻辑因果关系保护,使用黑箱模型作为分类器并利用变分自动编码器生成可行的对抗性示例,本研究在不同基准数据集上实验,成功生成可行且稀疏的对抗性示例,满足所有预定义的因果约束。
- 用扩散距离和方向连贯性增强反事实解释搜索
提出并测试了两种新的偏差,以增强对有效逆因对照解释的搜寻,方法为应用扩散距离和引入定向一致性项;通过在合成和实际数据集上进行一系列消融实验,证明了该方法的有效性。
- 超越一刀切:将反事实解释适应用户目标
解释性人工智能 (XAI) 是一项关键研究领域,旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景,为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs,了解用户目标和目标应用的多 - 对抗消除伪造脸部图像的反事实解释
通过艺术品去除的视角提供了人脸伪造检测的反事实解释,并成功实现了对抗攻击的可转移性。
- 生成可信任的模型无关反事实解释的对抗随机森林
利用对抗式随机森林(ARFs)的生成建模技术,本文以模型独立的方式高效生成可信的反事实解释,克服了现有方法的局限性,包括易于训练、计算高效、自然处理连续和分类数据以及方便集成额外的期望,如稀疏性。
- 基于知识蒸馏的模型提取攻击:使用私有对联解释
研究探讨了机器学习模型解释与攻击的关系,并提出了基于知识蒸馏的替代模型提取方法和添加差分隐私的对抗性解释生成方法。实验结果表明,添加隐私保护会影响解释器的性能和生成的对抗性解释的质量,使攻击性能降低。
- 贪婪和协同:用于动态图的反事实解释器
该论文介绍了两种新颖的 TGNN(Temporal Graph Neural Networks)反事实解释方法:GreeDy(动态图的贪婪解释器)和 CoDy(动态图的反事实解释器)。实验证明,这两种方法能够有效生成清晰的解释。特别是,Co - 通过临床背景知识指导预测流程监控的逆事实解释生成
通过使用基因算法技术,考虑运行时的一系列时间约束条件,我们在预测性过程监控的解释性领域中,为反事实在生成方面进行了改进,以保持时间背景知识的满意度,以及遵循反事实的传统质量指标。
- 走向非对抗性算法修复
在高风险情况下,通过对敌对示例和反事实解释的形式定义,我们介绍了非敌对算法性回应,并阐明了为什么在获得不具备敌对特性的反事实解释方面是至关重要的。我们进一步研究了目标函数中不同组件(例如用于计量距离的机器学习模型或成本函数)如何决定结果是否 - 生成商业流程结果预测的可行和可信的反事实解释
利用 REVISEDplus 数据驱动方法,通过在高密度区域内生成可行且合理的反事实解释,学习过程案例中活动之间的顺序模式,并评估反事实解释的有效性。
- 构建数据结构:朝向语义图对比事实
基于语义图的反事实解释方法使用类探测模型和图嵌入来提供更具描述性、准确性和与人类对齐性的解释,实验结果表明其在视觉领域的超越性能。
- ICLR针对数据转换下的反事实解释鲁棒性的验证训练
这篇论文介绍了 VeriTraCER,一种联合训练分类器和解释器的方法,明确考虑生成的反事实解释对小型模型偏移的稳健性,从而提供对反事实解释有效性的确定性保证。我们的实证评估表明,VeriTraCER 生成的反事实解释 (1) 对小型模型更 - 一种高效的多实例反事实解释的两阶段算法
该研究论文提出了一个灵活的两阶段算法,用于找到实例组以及具有成本效益的多实例反事实解释方法,以解决在黑盒系统中找到满足多个实例的单一反事实的问题。
- 纵向反事实:限制与机遇
利用纵向数据评估和改进反事实推理中的可信度,通过比较纵向差异与反事实差异,生成可信的反事实,探讨利用反事实推理的困难。
- 基于用户反馈的反事实解释介绍 (UFCE)
本研究引入了一种新的方法论,名为用户反馈式反事实解释(UFCE),以解决当前反事实解释算法的局限性,并旨在提高对提供的解释的置信度。实验证明,UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法,并指出用户约束对生成可行的反事实 - 数据中毒对反事实解释的影响
对反事实解释在数据中毒方面的鲁棒性进行研究,发现目前的方法和工具包在面对数据中毒攻击时存在漏洞
- 通过列生成实现一对多的反事实解释
在本文中,我们考虑了一组实例的生成对照解释的问题,其中采用一对多分配规则,其中一种解释被分配给实例的一个子组。我们首次解决了最小化解释所需数量的问题,同时考虑了稀疏性,通过限制每个解释中允许同时更改的特征数量。我们开发了一种新颖的列生成框架 - WWW图神经网络的博弈论反事实解释
该研究提出了一种基于半价值的非学习方法用于生成节点分类任务的对立解释,无需额外的训练,并发现计算 Banzhaf 值相对于计算 Shapley 值来说具有更低的样本复杂性,并且计算 Banzhaf 值可以实现多达四倍的速度提升,同时设计了一 - 通过最优传输实现的集体反事实解释
我们的研究提出了一种集体方法来制定反事实解释,强调利用个体的当前密度来提供推荐行动,这种方法通过解决最优输运问题,在改进经典反事实解释的同时支持其提案,通过数值模拟验证了该方法的有效性及其与经典方法的关系。
- 使用答案集编程进行反事实生成
使用基于规则的机器学习算法,自动生成反事实解释以实现透明化和可解释性。