Jul, 2023

从有偏倾向的训练数据中学习生成公平对话文本

PDF
TL;DRThis paper explores equitable text generation in dialogue systems using theories of computational learning, providing formal definitions of equity in text generation and proving formal connections between learning human-likeness and learning equity.
equitable text generationdialogue systemcomputational learninghuman-likenessbiased training data
发现论文，激发创造
  • LEATHER：对话人类化文本生成学习框架

    本文提出了一种新的理论框架，旨在分析文本生成中多方面的目标并为适应未见数据的学习者提供理论保证，应用于 GuessWhat？！视觉对话游戏的数据转移研究，提出了一种新的算法。实验证明，本文提出的算法不仅改善了任务成功率，而且提高了生成文本的人类相似度，并且本文的统计数据能够预测对话的多个质量，是模型选择的一个有用指标。

    Oct, 2022

  • COFFEE：可解释推荐中针对个性化文本生成的反事实公平性

    本文研究个性化文本生成中的公平性问题，提出了一个可适用于现有模型和实际场景的通用框架，以促进文本的公平性，消除因用户属性造成的偏见。

    Oct, 2022

  • 公平扩散：教导文本到图像生成模型公平性

    通过一项称为公平扩散的新策略，无需数据筛选和额外培训，即可在没有任何偏见的情况下指导生成模型的公平性和防止其加重偏见。

    Feb, 2023

  • 性别是否重要？朝着对话系统公平的方向

    本文通过构建基准数据集并提出量化措施来研究对话系统中的公平问题。研究发现，普遍采用的对话模型存在对不同性别和种族的偏见，并提出了两种简单而有效的去偏方法。数据集和实现已经发布以促进对话系统的公平研究。

    Oct, 2019

  • 基于对抗学习减轻神经对话生成中的性别偏见

    本文提出了基于对抗学习的、旨在降低对话系统中性别歧视的新框架 Debiased-Chat，并在两个真实的对话数据集上进行了广泛的实验，结果表明该框架明显降低了对话模型的性别偏见，同时保持了响应质量。

    Sep, 2020

  • 生成人工智能的公平性的正式规范、评估和强制执行

    生成式人工智能越来越多地生成类似于人类输出的内容，从文本到图像等，增加了强化或加剧社会偏见和不平等的风险。我们在此正式刻画生成式人工智能的公平性概念，作为监测和强制公平性的基础。我们利用无限词的概念定义了两个层面的公平性。第一个层面是对生成序列展示的公平性，仅在输出上进行评估，而对提示 / 模型不关心。第二个层面是生成式人工智能模型的固有公平性，要求在输入提示中是中立的情况下也能表现出公平性，即不明确指示生成式人工智能产生特定类型的输出。我们还研究了相对交叉公平性以应对考虑多个类别时公平性的组合爆炸和懒惰公平性强制。我们实施的规范监测和强制工具在测试多个生成式人工智能模型时显示出有趣的结果。

    Apr, 2024

  • GPT-3 面对气候变化和黑人生命重要性议题时对不同受众的应对：智能对话平台中公平性的评价

    通过分析平衡人工智能深度学习对不同社会群体的适应性，本研究提出了一个分析框架，并使用 GPT-3 进行审核研究，发现在固定主题下教育和意见少数群体的用户体验更差，GPT-3 的回复也更加负面，但这两个群体获得了最大的知识收益。

    Sep, 2022

  • 平衡偏差：通过平衡训练实现公平

    该研究旨在解决自然语言处理中与作者人口统计信息相关的系统偏差问题，提出了一种基于数据集平衡和带保护属性的门控模型来实现公正性，证明了该方法在减少偏差方面优于其他技术。

    Sep, 2021

  • 女王也很有力量：缓解对话生成中的性别偏见

    研究分析了对话数据中存在的性别偏见及其在生成模型中的放大问题，并提出了三种消除性别偏见的技术：因果数据增广、有针对性的数据收集和偏见控制训练。通过各种评估方法，验证了这些技术可以使生成的对话回应中性别不平衡的问题得到缓解。

    Nov, 2019

  • 改进文本到图像扩散模型实现公平

    快速采用的文本到图像扩散模型强调了解决其偏见的迫切需求。本研究将公平性视为分布对齐问题，提出了两个主要技术贡献：（1）分布对齐损失，将生成的图像的特定特征引导向用户定义的目标分布；（2）扩散模型抽样过程的有偏直接微调，利用有偏梯度更有效地优化生成图像上定义的损失。实证结果显示，我们的方法显著降低了职业提示中的性别、种族及其交叉偏见。即使只微调五个软记号，性别偏见也显著降低。关键是，我们的方法支持超越绝对平等的多样观点公平，如同时控制年龄分布为 75％年轻和 25％年长的情况下消除性别和种族偏见。最后，我们的方法具有可扩展性：通过将这些提示包含在微调数据中，可以同时消除多个概念的偏见。我们希望我们的工作有助于文本到图像生成人工智能的社会调整。我们将共享代码和各种消除偏见的扩散模型适配器。

    Nov, 2023