Aug, 2023

RecRec: 推荐系统的算法性补救

PDF
TL;DR针对内容提供者，我们提出了一个适用于推荐系统的追索框架，旨在理解模型在做出特定预测和推荐时的基本原理，并通过对三个真实数据集上训练的推荐系统进行实证评估，展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知，这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。
发现论文，激发创造
  • 关联感知的算法补救

    通过提出一种新的框架，关注相关度在应用算法补救到回归任务中的影响，我们发现相关性对算法补救具有相当的贡献，同时能提高效率和降低相对成本。

    May, 2024

  • 设定正确的期望：算法补救随时间变化

    在高风险决策中，算法系统往往被要求提供帮助。鉴于此，算法追索的原则，即个体应该能够针对算法系统产生的不良结果采取行动，受到越来越多的关注。然而，过去关于算法追索的大部分文献主要关注如何为单个个体提供追索，而忽视了一个关键要素：不断变化的环境对追索的影响。在本文中，我们提出了一个基于代理的仿真框架，用于研究不断变化的环境对算法追索的影响。我们的研究发现，只有一小部分具体的参数设置才能使算法追索随时间可靠。因此，我们认为还需要大量的工作来了解随时间的追索可靠性，并开发能够奖励代理努力的追索方法。

    Sep, 2023

  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020

  • 论算法反馈的隐私风险

    本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

    Nov, 2022

  • 因果算法对抗鲁棒性

    该论文研究算法性救济，包括在自动化决策系统中提供可行的建议，如何在相关不利的情况下提供建议并保持鲁棒性，通过正则化决策分类器来促进鲁棒救济。

    Dec, 2021

  • 自适应偏好引导下的成本适应型补救推荐

    该论文提出了一种将偏好学习整合到追索生成问题中的两步方法，通过设计问答框架来逐步细化追索主体的马氏矩阵代价的置信集，然后利用基于梯度和基于图的代价自适应追索方法来生成合法且考虑到整个代价矩阵的高效追索，数值评估结果表明该方法在提供高效追索建议方面优于现有基准。

    Feb, 2024

  • 黑盒决策系统中逼近真实个体补救和可操作解释

    我们提出了一种基于机器学习的回溯算法，用于提供决策结果不理想的人可以采取的可操作的一系列改变，以改善他们的结果。我们的算法可适用于各个不同 iable 的基于机器学习的决策系统，并填补了关于公平性的现有文献的不足之处。

    Jul, 2019

  • 面向强健可靠的算法可追溯性

    提出了一种新的框架 ROAR（RObust Algorithmic Recourse）用于解决由于模型漂移导致现有的后事补救技术不再有效的问题，该框架利用对抗性训练找到了对模型漂移具有鲁棒性的后事补救，实验评估结果表明这种方法在多个合成和现实世界数据集上具有很高的效度。

    Feb, 2021

  • 利用偏好获取用户感知的算法性干预

    本研究提出了一种新的范式，通过引入首个基于人类偏好征集的人在环路方法，将用户视为过程的主动参与者，结合蒙特卡洛树搜索的强化学习智能体以提供个性化干预以实现算法回溯。

    May, 2022

  • 二分类中追溯风险

    提出了一个学习理论框架，比较了分类有和没有算法追溯的风险，发现在许多情况下提供算法追溯反而有害，因为它会使用户产生更多的错误。此外，提供算法追溯有时会对系统整体造成伤害。因此，对当前的算法追溯概念需要重新思考。

    Jun, 2023