Apr, 2021

揭示对话系统中的个人偏见

PDF
TL;DR本文研究了对话系统的人格偏见，并分析了不同社会阶级、性取向、种族和性别的人物角色。研究者提出将对话系统的角色升级到拥有更多人文特征以更好的迎合用户的趋势可能会产生一些偏见。他们还介绍了一个开源框架 UnitPersonaBias，以探索和聚合对话系统中的人格偏见。此外，研究者还发现与不使用人格形象相比，采用人格形象可能会减少有害的回应。但是，人格选择会影响生成响应中危害程度，因此在实际应用前应该进行系统评估。
dialogue systemspersona biasessocial classessexual orientationsharmful responses
发现论文，激发创造
  • 评估对话系统中的个体偏差：个性化的随机鹦鹉是否更危险？

    最近在大型语言模型的突破使它们能够遵循自由格式的指令，其中包括模仿对话中一般或特定人口群体。本文系统研究了 “人物偏见”，将其定义为对不同人物采用敏感有害的对话模型行为的问题。我们将人物偏见分为有害表达和有害协议的偏见，并建立了一个全面的评估框架，以衡量人物偏见的五个方面：冒犯性、毒性，关注度，刻板协议和有害协议。此外，我们建议通过对通用人物数据集进行全面调查，该数据集包含全面的一般和特定模型人物列表，从而全面研究人物偏见。通过对包括 Blender、ChatGPT、Alpaca 和 Vicuna 在内的四个不同模型进行基准测试，我们的研究揭示了这些对话系统中显著的人物偏见。我们的研究结果强调了重新审视人物特点在对话代理程序中的使用的迫切需求，以确保其安全应用。

    Oct, 2023

  • 关于对话系统中拟人化现象的幻觉

    讨论对话系统中造成拟人化的语言因素及其危害，并建议在设计、开发、发布和描述中特别关注语言线索，以避免用户的人格化误解。

    May, 2023

  • 具有隐式用户人设检测的个性化对话生成器

    提出了一种基于用户人格检测的个性化对话生成器，该方法使用条件变分推理建立用户潜在人格模型并利用后验鉴别正则化提高训练效果，在实证研究中实现比现有技术更高的对用户人格关注和提升了对话品质的效果。

    Apr, 2022

  • 偏见根深蒂固：个性化指定的 LLMs 中的隐性推理偏见

    大规模语言模型（LLMs）个性化与基本推理任务间的影响及深层偏见的研究。

    Nov, 2023

  • 基于立场的意见对话角色

    本研究提出一种基于立场的人物形象表达方式，探讨不同的人物形象表达对于话语生成的影响，数据结果显示，这种表达方式可以更准确地把握作者立场的抽象和深刻的方面。

    Oct, 2020

  • 个性化对话生成与多元特征

    本研究旨在研究将个性特征应用于对话生成中以提供个性化对话的问题，并提出了一种基于关键 - 值对的嵌入式特征融合模块和两种新颖的特征感知机制，即基于对话者的关注机制和基于对话者的偏置机制，并构建了 PersonalDialog 数据集，该数据集包含来自海量讲话者的具有不同特征的大量多轮对话。实验结果表明，所提出的模型能够在不同情境下处理适当的特征。

    Jan, 2019

  • 我们就是我们反复做的事情：在基于人物的回答中引导和应用习惯性模式

    使用明确的模式表示，检索相关模式以生成基于人物形象的回复的大型语言模型的对话生成方法。同时，通过从简单事实集合生成通用段落，然后从生成的段落归纳模式的方法来引导这些模式的创建。

    Oct, 2023

  • BiasAsker：测量会话型人工智能系统的偏见

    提出自动化框架 BiasAsker，通过构建包含 841 个社会群体和 8110 个有偏见属性的、综合性的社会偏见数据集，使用存在性测量的新方法，识别并衡量对话 AI 系统中的绝对偏见和相关偏见，对 8 个商业系统和 ChatGPT、GPT-3 等两个著名的研究模型进行广泛实验，结果表明，BiasAsker 生成的 32.83％的问题可以触发这些广泛部署的对话系统中的有偏见行为。

    May, 2023

  • 通过相互人设感知实现的对话生成

    本文提出了基于 P^2 框架的机器人 P^2 Bot，该框架旨在显式地建立对话者间的理解模型。实验结果表明该框架在大型公共数据集 Persona-Chat 上取得了显著效果提升。

    Apr, 2020

  • 基于对抗学习减轻神经对话生成中的性别偏见

    本文提出了基于对抗学习的、旨在降低对话系统中性别歧视的新框架 Debiased-Chat，并在两个真实的对话数据集上进行了广泛的实验，结果表明该框架明显降低了对话模型的性别偏见，同时保持了响应质量。

    Sep, 2020