基于立场的意见对话角色
本文研究了对话系统的人格偏见,并分析了不同社会阶级、性取向、种族和性别的人物角色。研究者提出将对话系统的角色升级到拥有更多人文特征以更好的迎合用户的趋势可能会产生一些偏见。他们还介绍了一个开源框架 UnitPersonaBias,以探索和聚合对话系统中的人格偏见。此外,研究者还发现与不使用人格形象相比,采用人格形象可能会减少有害的回应。但是,人格选择会影响生成响应中危害程度,因此在实际应用前应该进行系统评估。
Apr, 2021
使用明确的模式表示,检索相关模式以生成基于人物形象的回复的大型语言模型的对话生成方法。同时,通过从简单事实集合生成通用段落,然后从生成的段落归纳模式的方法来引导这些模式的创建。
Oct, 2023
最近在大型语言模型的突破使它们能够遵循自由格式的指令,其中包括模仿对话中一般或特定人口群体。本文系统研究了 “人物偏见”,将其定义为对不同人物采用敏感有害的对话模型行为的问题。我们将人物偏见分为有害表达和有害协议的偏见,并建立了一个全面的评估框架,以衡量人物偏见的五个方面:冒犯性、毒性,关注度,刻板协议和有害协议。此外,我们建议通过对通用人物数据集进行全面调查,该数据集包含全面的一般和特定模型人物列表,从而全面研究人物偏见。通过对包括 Blender、ChatGPT、Alpaca 和 Vicuna 在内的四个不同模型进行基准测试,我们的研究揭示了这些对话系统中显著的人物偏见。我们的研究结果强调了重新审视人物特点在对话代理程序中的使用的迫切需求,以确保其安全应用。
Oct, 2023
本研究旨在研究将个性特征应用于对话生成中以提供个性化对话的问题,并提出了一种基于关键 - 值对的嵌入式特征融合模块和两种新颖的特征感知机制,即基于对话者的关注机制和基于对话者的偏置机制,并构建了 PersonalDialog 数据集,该数据集包含来自海量讲话者的具有不同特征的大量多轮对话。实验结果表明,所提出的模型能够在不同情境下处理适当的特征。
Jan, 2019
提出了一种基于用户人格检测的个性化对话生成器,该方法使用条件变分推理建立用户潜在人格模型并利用后验鉴别正则化提高训练效果,在实证研究中实现比现有技术更高的对用户人格关注和提升了对话品质的效果。
Apr, 2022
本文通过三个子任务,即人设发现、人设类型识别和人设价值提取,探索了嵌入式对话系统中的说话者画像的任务,并引入了一套名为 SPOT 的神经模型来验证了 SPICE 数据集的可行性。
Apr, 2023
该论文提出了一种新的检索到预测范例来解决个性化聊天机器人中 OOP 问题,并通过采用实际人物进行后验转换来进一步缓解训练和推理之间的差距。并通过 IT-ConvAI2 和 ConvAI2 的广泛实验表明,我们提出的模型在自动指标和人类评估方面都取得了可观的改进。
Aug, 2022
综述了神经会话代理(也称为聊天机器人)中的个性特征,包括定义了个性、角色和档案,解释了在会话代理中已经使用的所有个性方案,并列出了使用该方案的模型;描述了在最近的会话代理个性研究中开发的 21 个数据集;定义了在会话代理中体现个性的方法,并回顾了最近使用这些方法的模型;调查了关于会话代理、个性和相关主题的一些相关综述;最后得出结论并确定了这一重要新兴领域的一些研究挑战。
Dec, 2023
本文提出了基于 P^2 框架的机器人 P^2 Bot,该框架旨在显式地建立对话者间的理解模型。实验结果表明该框架在大型公共数据集 Persona-Chat 上取得了显著效果提升。
Apr, 2020