Apr, 2024

在交互和以用户为中心的算法补救中，利用偏好确定的初步探索

PDF
TL;DR算法性回溯的研究目标在于为自动化机器学习模型所做出的可能不利决策提供可行性解释或改变方案。本文提出了一种基于引导互动模式的交互范式，旨在引导用户表达偏好并引导他们采取有效的改变方案。作者通过在虚构的借贷任务中进行对比，将该方法与基于替代方案和用户自行配置的自由性的探索互动模式进行比较。结果显示，用户可能认为引导互动范式提高了效率，但也感到在 “假设” 场景下的自由度较低。然而，对于纯探索界面所花费的时间通常被视为缺乏效率，从而降低了其吸引力、明确性和可靠性。相反，对于引导界面，时间的增加似乎提高了其吸引力、明确性和可靠性，而不会影响到用户对其效率的感知。这可能表明这种类型的界面应该将这两种方法结合起来，既支持探索行为，又慢慢引导朝着有效解决方案的方向前进。
algorithmic recourseautomated machine learning modelsguided interaction paradigmexploratory interaction patternmoney lending
发现论文，激发创造
  • 利用偏好获取用户感知的算法性干预

    本研究提出了一种新的范式，通过引入首个基于人类偏好征集的人在环路方法，将用户视为过程的主动参与者，结合蒙特卡洛树搜索的强化学习智能体以提供个性化干预以实现算法回溯。

    May, 2022

  • 自适应偏好引导下的成本适应型补救推荐

    该论文提出了一种将偏好学习整合到追索生成问题中的两步方法，通过设计问答框架来逐步细化追索主体的马氏矩阵代价的置信集，然后利用基于梯度和基于图的代价自适应追索方法来生成合法且考虑到整个代价矩阵的高效追索，数值评估结果表明该方法在提供高效追索建议方面优于现有基准。

    Feb, 2024

  • RecRec: 推荐系统的算法性补救

    针对内容提供者，我们提出了一个适用于推荐系统的追索框架，旨在理解模型在做出特定预测和推荐时的基本原理，并通过对三个真实数据集上训练的推荐系统进行实证评估，展示了 RecRec 在生成有效、稀疏和可执行的追索方面的高效性。据我们所知，这项工作是首次对推荐系统生成追索的概念进行了概括和实证测试。

    Aug, 2023

  • 算法回溯中评估函数的重新评估：基于人类中心视角的实证研究

    对算法补救研究的现有假设提出质疑，指出参与者对补救方案的接受和行动意愿与补救距离并不相关，并呼吁重新思考评估函数以实现以人为中心的补救生成。

    May, 2024

  • 可解释的主动学习用于偏好调查

    通过主动学习和基于用户的偏好调取方法，解决在推荐系统中缺乏用户存在或受限于其他用户数据访问的冷启动问题，从而提供个性化推荐。

    Sep, 2023

  • 设定正确的期望：算法补救随时间变化

    在高风险决策中，算法系统往往被要求提供帮助。鉴于此，算法追索的原则，即个体应该能够针对算法系统产生的不良结果采取行动，受到越来越多的关注。然而，过去关于算法追索的大部分文献主要关注如何为单个个体提供追索，而忽视了一个关键要素：不断变化的环境对追索的影响。在本文中，我们提出了一个基于代理的仿真框架，用于研究不断变化的环境对算法追索的影响。我们的研究发现，只有一小部分具体的参数设置才能使算法追索随时间可靠。因此，我们认为还需要大量的工作来了解随时间的追索可靠性，并开发能够奖励代理努力的追索方法。

    Sep, 2023

  • 用户指导的可行性行动

    机器学习在诸如医疗保健、银行和刑事司法等关键领域的普及促使了确保 ML 模型的信任和透明性的工具的创建，其中一个工具是用于受负面影响的用户的可操作补救措施（AR），AR 描述了对用户的可行性特征的成本效益改变的建议，以帮助他们获得有利的结果；基于现有方法的补救方式优化了接近性、稀疏性、有效性和基于距离的成本等属性，然而，行动性的一个常被忽视但至关重要的要求是考虑用户偏好来指导补救生成过程，本研究尝试通过三种简单形式（i）评分连续特征，（ii）限制特征值范围和（iii）对分类特征进行排序）来捕捉用户偏好，最后，我们提出了一种基于梯度的方法来识别用户优选的可操作补救措施（UP-AR），我们进行了大量实验证实我们方法的有效性。

    Sep, 2023

  • 论算法反馈的隐私风险

    本文旨在探讨对算法提供诉求时对于隐私泄露的重要风险，通过 membership inference attacks 方法将对算法使用的数据的私密信息泄露。

    Nov, 2022

  • 局部引导的顺序算法补救的反事实解释

    通过算法补偿实施的反事实推演已成为使人工智能系统具有可解释性的强大工具，本文提出了一种名为 LocalFACE 的模型不可知技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释。

    Sep, 2023

  • 算法补救：从反事实解释到干预

    本研究旨在基于因果推理，强调针对机器学习的偏见或错误决策，我们应该将注意力从解释数据的方式转向提供介绍、通过最小干预实现推荐的方式，以获得更好的结果。

    Feb, 2020