Jun, 2020

不完善因果知识下的算法补救：一种概率方法

PDF
TL;DR通过两种概率方法选取最优行动以在有限的因果知识下实现补救，以解决缺乏真实结构因果模型的限制，并在不完美的因果知识下提供比非概率基线更可靠的建议。
counterfactual explanationscausal relationshipsstructural causal modelprobabilistic approachesoptimal actions
发现论文，激发创造
  • 局部引导的顺序算法补救的反事实解释

    通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

    Sep, 2023

  • 算法补救：从反事实解释到干预

    本研究旨在基于因果推理，强调针对机器学习的偏见或错误决策，我们应该将注意力从解释数据的方式转向提供介绍、通过最小干预实现推荐的方式，以获得更好的结果。

    Feb, 2020

  • 因果算法补救措施公平性研究

    本研究从补救行动的角度研究算法公正性，提出两个新的公正性准则，明确考虑特征之间的因果关系，从而捕捉在物理世界中执行的补救行动的下游效应。我们探讨了我们的标准与其他标准，如反事实公正性的关系，并且证明了补救公正性与预测公正性互补。最后，我们讨论了是否可以通过社会干预来更好地解决数据生成过程中的公正性违规问题，而不是限制分类器。

    Oct, 2020

  • 分解因果解释以进行实质性决策

    本文提出了一种新的算法回溯框架 DEAR，通过解缠共变特征的潜在表示来捕捉实践回溯的主要愿景，从而在特征依赖的情况下提供可靠且低成本的回溯。

    Nov, 2022

  • 黑盒决策系统中逼近真实个体补救和可操作解释

    我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。

    Jul, 2019

  • 算法回溯中的内生宏观动态

    现有关于反事实解释和算法回应的研究主要集中在静态环境中的个体上，但对于处理数据和模型漂移等动态环境的能力仍然是一个未被充分探索的研究挑战。在个体实施回应的实际情况如何影响其他个体方面也缺乏研究。通过模拟实验，本文发现现有的算法回应方法的应用可能会受到域和模型漂移的影响，但同时提出了几种缓解这些问题的策略。同时，我们提出了一个快速且开源的模拟框架，用于研究回应动态。

    Aug, 2023

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • 利用偏好获取用户感知的算法性干预

    本研究提出了一种新的范式，通过引入首个基于人类偏好征集的人在环路方法，将用户视为过程的主动参与者，结合蒙特卡洛树搜索的强化学习智能体以提供个性化干预以实现算法回溯。

    May, 2022

  • 设定正确的期望：算法补救随时间变化

    在高风险决策中，算法系统往往被要求提供帮助。鉴于此，算法追索的原则，即个体应该能够针对算法系统产生的不良结果采取行动，受到越来越多的关注。然而，过去关于算法追索的大部分文献主要关注如何为单个个体提供追索，而忽视了一个关键要素：不断变化的环境对追索的影响。在本文中，我们提出了一个基于代理的仿真框架，用于研究不断变化的环境对算法追索的影响。我们的研究发现，只有一小部分具体的参数设置才能使算法追索随时间可靠。因此，我们认为还需要大量的工作来了解随时间的追索可靠性，并开发能够奖励代理努力的追索方法。

    Sep, 2023

  • 一个通用的神经因果模型用于交互推荐

    通过建立可学习的结构因果模型，并使用古贝尔最大函数作为结构约束，应用增强优化和古贝尔 - Softmax 作为权衡手段来实现反事实一致性，从而减轻观察数据的幸存者偏差问题。

    Oct, 2023