- ICML使用算法回溯学习决策树和随机森林
该论文提出了一种新算法,用于学习准确的基于树的模型,同时确保存在补救措施行动。
- 关联感知的算法补救
通过提出一种新的框架,关注相关度在应用算法补救到回归任务中的影响,我们发现相关性对算法补救具有相当的贡献,同时能提高效率和降低相对成本。
- 算法回溯中评估函数的重新评估:基于人类中心视角的实证研究
对算法补救研究的现有假设提出质疑,指出参与者对补救方案的接受和行动意愿与补救距离并不相关,并呼吁重新思考评估函数以实现以人为中心的补救生成。
- 在交互和以用户为中心的算法补救中,利用偏好确定的初步探索
算法性回溯的研究目标在于为自动化机器学习模型所做出的可能不利决策提供可行性解释或改变方案。本文提出了一种基于引导互动模式的交互范式,旨在引导用户表达偏好并引导他们采取有效的改变方案。作者通过在虚构的借贷任务中进行对比,将该方法与基于替代方案 - 追索索偿:与生成语言模型对话
通过为毒性过滤设置动态阈值,我们提供了一种新的机制,使用户能够实现他们希望的预测,从而增加了与基线系统的交互中的机构性。一项初步研究支持我们提出的救济机制的潜力,表明与固定阈值毒性过滤模型输出相比,可用性有所改善。未来的工作应该探讨毒性评分 - 走向非对抗性算法修复
在高风险情况下,通过对敌对示例和反事实解释的形式定义,我们介绍了非敌对算法性回应,并阐明了为什么在获得不具备敌对特性的反事实解释方面是至关重要的。我们进一步研究了目标函数中不同组件(例如用于计量距离的机器学习模型或成本函数)如何决定结果是否 - 纵向反事实:限制与机遇
利用纵向数据评估和改进反事实推理中的可信度,通过比较纵向差异与反事实差异,生成可信的反事实,探讨利用反事实推理的困难。
- 自适应偏好引导下的成本适应型补救推荐
该论文提出了一种将偏好学习整合到追索生成问题中的两步方法,通过设计问答框架来逐步细化追索主体的马氏矩阵代价的置信集,然后利用基于梯度和基于图的代价自适应追索方法来生成合法且考虑到整个代价矩阵的高效追索,数值评估结果表明该方法在提供高效追索建 - 机器学习中的鲁棒反事实解释:一项调查
对于机器学习模型的预测结果影响的人来说,反事实解释(CEs)被认为是提供理想算法解决方案的。然而,最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在,因此需要采取技术来减轻风险。在这项调查中,我们回顾了快速发展的稳健 CEs 领 - 算法追责中的公平:以实质机会平等为视角
此篇论文提出了两个关于算法追溯的公平性概念,与机会的实质平等以及时间相关,通过建立一个基于代理的模拟追溯框架,展示了在克服初始差异情况下所需的努力,并提出了一种提高追溯公平性的干预措施,并与现有策略进行了比较。
- ICML在线算法补救的集体行动
该论文研究算法性救济,侧重于在线环境中动态更新系统参数并通过协同计算特征扰动的集体行动来改善不利的自动化决策。
- 覆盖效力感知算法性补救
算法回溯是提升机器学习模型解释性、透明性和伦理性的一种突出技术;现有的算法回溯方法通常假设预测模型是不变的,但预测模型往往会在新数据到达时进行更新,因此对于未来的模型而言,对现有模型有效的回溯方法可能变得无效。为解决这个问题,我们提出了一个 - 多元时间序列异常检测的算法回溯
多变量时间序列中的异常检测已经得到广泛研究,本文提出了一种算法基础框架 RecAD,在异常时间步骤上推荐修复行动,以便领域专家了解如何修复异常行为。
- TraCE:轨迹逆事实解释分数
我们提出了一个模型无关的模块化框架,TraCE(轨迹反事实解释)评分,用于评估顺序决策任务中的进展,并将其应用于医疗保健和气候变化两个案例研究,展示了其在不同领域的实用性。
- 在不确定性下对反事实干预进行估计
通过采用贝叶斯层级模型来建模不确定性,本文解决了连续设置中对反事实分布的模棱两可性问题,特别是在贝叶斯变形高斯过程中,允许非高斯分布和非加法噪声,成功应用于一个合成和半合成的案例,并展示了在算法补救下游任务中的性能。
- 设定正确的期望:算法补救随时间变化
在高风险决策中,算法系统往往被要求提供帮助。鉴于此,算法追索的原则,即个体应该能够针对算法系统产生的不良结果采取行动,受到越来越多的关注。然而,过去关于算法追索的大部分文献主要关注如何为单个个体提供追索,而忽视了一个关键要素:不断变化的环境 - 局部引导的顺序算法补救的反事实解释
通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具,本文提出了一种名为 LocalFACE 的模型不可知技术,通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。
- SafeAR:通过风险感知策略实现更安全的算法补救
通过计算具有风险考虑的途径,这篇论文旨在为那些受到机器学习模型决策不利影响的个体提供补救建议,以便改善他们的处境并获得有利的决策。
- 算法回溯中的内生宏观动态
现有关于反事实解释和算法回应的研究主要集中在静态环境中的个体上,但对于处理数据和模型漂移等动态环境的能力仍然是一个未被充分探索的研究挑战。在个体实施回应的实际情况如何影响其他个体方面也缺乏研究。通过模拟实验,本文发现现有的算法回应方法的应用 - 通过反事实解释黑盒模型
使用 Julia 编写的 CounterfactualExplanations.jl 软件包可生成黑盒模型的因果解释和算法性补救措施,为改善不良结果提供可行的和实用的改变方案,并帮助解释任意预测模型。