Nov, 2023

覆盖效力感知算法性补救

PDF
TL;DR算法回溯是提升机器学习模型解释性、透明性和伦理性的一种突出技术；现有的算法回溯方法通常假设预测模型是不变的，但预测模型往往会在新数据到达时进行更新，因此对于未来的模型而言，对现有模型有效的回溯方法可能变得无效。为解决这个问题，我们提出了一个新框架生成与模型变化鲁棒的模型无关回溯。我们的框架首先构建了一个基于线性 (代理) 模型的可覆盖性和有效性感知回溯，然后根据这个线性模型生成回溯。我们建立了我们的可覆盖性和有效性感知线性模型与极小最大概率机 (MPM) 之间的理论联系，并证明通过给定不同的协方差鲁棒性，我们的框架可以恢复 MPM 的常用正则化，包括ℓ2 正则化和类别重新加权。此外，我们还展示了我们的代理模型直观地推动近似超平面，使得回溯既具有鲁棒性又具有可解释性。数值结果证明了我们框架的有用性和鲁棒性。
algorithmic recourseexplainabilitytransparencymodel shiftsrobustness
发现论文，激发创造
  • 关联感知的算法补救

    通过提出一种新的框架，关注相关度在应用算法补救到回归任务中的影响，我们发现相关性对算法补救具有相当的贡献，同时能提高效率和降低相对成本。

    May, 2024

  • 面向强健可靠的算法可追溯性

    提出了一种新的框架 ROAR（RObust Algorithmic Recourse）用于解决由于模型漂移导致现有的后事补救技术不再有效的问题，该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救，实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。

    Feb, 2021

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • 有意义且健壮的算法补救措施的因果视角

    本研究提出了有意义的算法追溯 (MAR) 方法，该方法仅推荐同时改善预测和目标的操作，从而解决了原有算法追溯方法的问题，并介绍了一种称为有效算法追溯（EAR）的方法，它可以假定采取操作可以影响模型目标的所有原因，从而生成有意义的算法追溯解释。

    Jul, 2021

  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020

  • 野外算法可追溯性：理解数据和模型漂移的影响

    本文研究了模型更新对于算法补救方案的影响，实验证明数据分布的改变和模型升级会导致现有的算法补救方案失效，因此需要重新设计和开发算法补救方案。

    Dec, 2020

  • 论算法反馈的隐私风险

    本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

    Nov, 2022

  • 黑盒决策系统中逼近真实个体补救和可操作解释

    我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。

    Jul, 2019

  • 隐私保护算法方案

    基于实例化反事实解释的隐私回溯路径，提供了一种端到端的隐私保护管道，可生成逼真的回溯路径。

    Nov, 2023

  • RecRec: 推荐系统的算法性补救

    针对内容提供者，我们提出了一个适用于推荐系统的追索框架，旨在理解模型在做出特定预测和推荐时的基本原理，并通过对三个真实数据集上训练的推荐系统进行实证评估，展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知，这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。

    Aug, 2023