May, 2023

UP5: 公平感知推荐的无偏基础模型

PDF
TL;DR本文针对大型语言模型在推荐系统中可能存在的不公平问题，提出了基于 Counterfactually-Fair-Prompting（CFP）技术的新型 Unbiased P5（UP5）模型，将个性化前缀提示和多个 Prompt Mixture（综合提示）相结合，实现了更公平的推荐结果。实验证明，UP5 模型的推荐性能显著优于其他具有匹配特性或顺序特性的公平建议模型，并且表现出更高的公平水平。
发现论文，激发创造
  • 推荐中的个性化对抗公平性

    本文提出了一个通过对抗学习生成独立于特征的用户嵌入来实现反事实公平的框架，从而使推荐系统能够为用户实现个性化的公平性。实验表明，该方法可以为用户生成更加公正且具有良好推荐效果的推荐结果。

    May, 2021

  • 消费者和生产者群体公平优化的个性化框架：在推荐系统中

    近年来，人们越来越认识到，当机器学习算法用于自动化决策时，它们可能会对个人或群体造成不公平待遇，涉及法律、道德或经济方面的问题。本文提出了一个名为 CP-FairRank 的基于优化的重新排序算法，它在综合目标框架中无缝地集成了消费者和生产者双方的公平性约束，具有普适性，并且能够根据群体细分、推荐模型选择和领域的不同情况考虑不同的公平设置，改善消费者和生产者的公平性而不会明显影响整体推荐质量，从而展示算法在避免数据偏见方面的作用。

    Feb, 2024

  • 一个关注公平性的混合推荐系统

    本研究提出使用基于概率编程语言的混合公平意识推荐系统，以多个用户 - 用户和物品 - 物品相似性度量、内容和人口统计信息实现高效准确的推荐，同时解决了推荐偏见问题。与最先进的公平推荐系统相比，实验结果表明，我们的模型可以提供更准确、更公平的推荐。

    Sep, 2018

  • 推荐系统中可解释的公平性

    该研究基于可解释的 AI 技术，提出了一个计数事实可解释公平框架（CEF）来解决推荐系统中存在的公平性缺陷问题。该模型能够生成关于模型公平性的解释，以提供有关即使做出相关更改也不会显著损害其性能的公平性分数排名的信息。

    Apr, 2022

  • 推荐系统中的长期公平性

    本文提出了一种用于动态公平学习的约束强化学习算法，通过将推荐问题建模为约束马尔可夫决策过程，以解决推荐系统中长期公平性的问题。实验结果表明，该算法在推荐性能、短期公平性和长期公平性方面均具有优越性。

    Jan, 2021

  • 推荐系统中以用户为导向的公平性的普适性实验

    研究在推荐系统中的公平性问题，提出一种基于用户为导向的公平性重排框架来缓解基于排名的不公平行为，发现不同用户组的定义在算法的有效性和特定排名模型的性能改进方面起到至关重要的作用。

    May, 2022

  • CPFair：用于推荐系统的个性化消费者和生产者公平重排

    本文提出了一种基于优化的重新排序方法，该方法在联合目标框架中无缝集成了来自消费者和生产者方面的公平性约束，并经过 8 个数据集的大规模实验证明，我们的方法能够提高消费者和生产者的公平性，同时不会降低总体的推荐质量。

    Apr, 2022

  • 在大型语言模型推荐中评估 ChatGPT 的公平性

    本研究旨在评估通过大语言模型实现的推荐系统中潜在的社会偏见问题，针对传统推荐系统的不足，提出了一个新的名为 FaiRLLM 评估标准和一套评估指标来评估这一问题。通过该标准，对 ChatGPT 进行评估，发现其在生成推荐时仍然存在对某些敏感属性的不公平性展现。

    May, 2023

  • 揭示大型语言模型的公正性评估中的偏见：音乐和电影推荐系统的重要文献综述

    研究了已存在的公平评估框架处理语言生成人工智能模型（特别是大型语言模型）的方法，聚焦于如何整合个性化因素，并发现现有的评估往往忽视个性化，从而间接地延续了不公平的做法，强调了对个性化的认识和更细致的公平评估的迫切需要，以促进人工智能社区的公平发展。

    Jan, 2024

  • 少样本公平性：揭示 LLM 对公平感知分类的潜力

    利用大型语言模型（LLM）在各种下游应用中进行分类等工作至关重要，通过公平性可以确保包容性，基于种族、性别等因素实现平等代表和促进负责任的人工智能部署。本研究引入了一个框架来概述与各种公平性定义相一致的公平性规定，每个定义均由不同程度的抽象调控。我们通过在流程中将公平规则纳入，并使用 RAG 选择上下文演示来探索上下文学习的配置和过程。通过与不同 LLM 的实验比较，发现 GPT-4 在准确性和公平性方面的结果都优于其他模型。本研究是利用 LLMs 通过上下文学习实现预测任务公平性的早期尝试之一。

    Feb, 2024