Jul, 2019

黑盒决策系统中逼近真实个体补救和可操作解释

PDF
TL;DR我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。
machine learningdecision makingrecourse algorithmfairnesscounterfactual explanations
发现论文，激发创造
  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020

  • 跨群组平等配给资源

    本文讨论如何建立一个能够准确预测并确保负面影响不会对不同群体产生不成比例影响的模型，通过优化无论是线性设置还是非线性设置的归属度，来减小归属度不公平现象的发生。

    Sep, 2019

  • 线性分类中的可执行补救措施

    本文介绍了整数规划工具，以确保在线性分类问题中具有追索权，其中一个人通过更改可操作的输入变量（例如收入与年龄或婚姻状况）来改变模型的决策，并演示了这些工具如何通过信用评分问题的实验向利益相关者提供信息，结果表明，标准的模型开发实践可以极大地影响追索权，并促进实际中对追索权的评估。

    Sep, 2018

  • 因果算法补救措施公平性研究

    本研究从补救行动的角度研究算法公正性，提出两个新的公正性准则，明确考虑特征之间的因果关系，从而捕捉在物理世界中执行的补救行动的下游效应。我们探讨了我们的标准与其他标准，如反事实公正性的关系，并且证明了补救公正性与预测公正性互补。最后，我们讨论了是否可以通过社会干预来更好地解决数据生成过程中的公正性违规问题，而不是限制分类器。

    Oct, 2020

  • 算法补救：从反事实解释到干预

    本研究旨在基于因果推理，强调针对机器学习的偏见或错误决策，我们应该将注意力从解释数据的方式转向提供介绍、通过最小干预实现推荐的方式，以获得更好的结果。

    Feb, 2020

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • 局部引导的顺序算法补救的反事实解释

    通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

    Sep, 2023

  • 在线算法补救的集体行动

    该论文研究算法性救济，侧重于在线环境中动态更新系统参数并通过协同计算特征扰动的集体行动来改善不利的自动化决策。

    Dec, 2023

  • 分解因果解释以进行实质性决策

    本文提出了一种新的算法回溯框架 DEAR，通过解缠共变特征的潜在表示来捕捉实践回溯的主要愿景，从而在特征依赖的情况下提供可靠且低成本的回溯。

    Nov, 2022

  • 隐私保护算法方案

    基于实例化反事实解释的隐私回溯路径，提供了一种端到端的隐私保护管道，可生成逼真的回溯路径。

    Nov, 2023