Aug, 2023

对话机器人如何引用用户以往聊天记录的比较：用户隐私关注与感知的研究

PDF
TL;DR聊天机器人记忆和引用先前对话，但这是否增强用户参与度还是侵犯隐私？为了探索这个权衡，我们调查了聊天机器人引用先前对话与用户的交互格式以及对用户感知和隐私关注的影响。通过一项为期三周的纵向研究，我们发现参与者认为逐字引用和释义引用的聊天机器人更智能且更具吸引力，然而逐字引用的聊天机器人也引起了参与者的隐私担忧。通过对 15 位参与者进行半结构化访谈，我们得到了人们偏好特定条件或对隐私关注的见解。从我们的研究结果中得出的启示可以帮助设计师选择适当的引用先前用户对话的格式，并在纵向对话脚本设计中提供指导。
chatbotsuser engagementprivacy concernsverbatim referencinglongitudinal dialogue scripting
发现论文，激发创造
  • 聊天机器人是否准备好应对隐私敏感的应用？输入翻转和提示清除的调查

    本文旨在探究聊天机器人的输入复制和反刍能力，并通过直接指示来遵守 HIPAA 和 GDPR 等规定，限制复制，以减少隐私风险。通过概括 100 名应聘者的求职信，我们发现 ChatGPT 在 57.4％的情况下会保留 PII，并发现在不同的人员子群组之间存在非统一的差异，然而，通过指示，我们也发现 ChatGPT 在输出中能够显著省略 PII。

    May, 2023

  • 那些不是你的记忆，是别人的：在聊天机器人中植入错误信息

    本文研究了聊天机器人长时记忆机制，发现它容易受到误导，记住错误信息并在后续对话中回答。我们用 BlenderBot2 和 BlenderBot3 等模型对其漏洞性进行了演示和评估，发现当误导信息存在于长时记忆中时，聊天机器人更容易以其为事实回答相关问题。

    Apr, 2023

  • 防止对话表征泄露说话人的个人隐私：你不知道我的最喜欢的颜色

    本研究旨在探究基于语言模型训练的社交聊天机器人中隐藏状态的隐私泄露问题，并提出了有效的防御目标以保护用户隐私。通过大量实验验证，我们的防御目标可以将攻击准确率从 37.6% 降低到 0.5%。

    Apr, 2022

  • 针对隐式用户属性创建个性化聊天机器人方案：每人一机器人

    本文提出了一种从用户对话历史中自动学习隐式用户配置文件以构建个性化聊天机器人的方法，采用 Transformer 进行语言理解训练，并通过建立历史帖子 - 响应对的键值存储网络来建立动态的贴子感知用户配置文件。同时，采用个性化解码器融合两种解码策略，包括生成通用词汇表中的单词和从用户个性化词汇表中复制一个单词。实验结果表明，该模型较现有方法具有显著的改进。

    Aug, 2021

  • R-U-A-Robot 数据集：通过检测用户关于人类或非人类身份的问题来帮助避免聊天机器人欺骗

    本文探讨了人机交互中系统设计与研究者如何允许系统确认其非人身份，研究了大量针对是否为机器人的表述与系统无法识别的内容，比较了不同分类器识别意图的效率和模型复杂度之间的权衡，提出了避免误导的虚假响应型对话系统的思路，并研究了已经投入使用的系统在确认非人身份方面的表现。最后，本文通过用户研究，总结了响应此意图所需的各个方面。

    Jun, 2021

  • ChatGPT 为我们所用：通过对话文本模糊化保护数据隐私，以扩展心理卫生保健的投递

    提出了一个文本模糊框架，以解决数据敏感领域如医疗保健领域因隐私和数据所有权问题使用 ChatGPT 遇到的障碍，通过处理用户提供的文本以发现和减轻压力，展示隐私保护生成的可行性和帮助性。我们的结果表明，即使没有提供原始用户文本，ChatGPT 的推荐仍然有一定的帮助和相关性。

    May, 2023

  • 自然语言生成对话机器人多次回复的效果

    本研究通过提供多个回复以创建群聊氛围来缓解自然语言生成聊天机器人回复不当内容，导致用户体验不佳的问题，实验结果表明，相较于单次回复，用户将从 NLG 模型中一次性收到多个回复将会有更好的聊天体验。此外，对于单次回复和匿名头像的 NLG 聊天机器人来说，提供五次回复将比设定一个动漫头像更有益处。

    Oct, 2022

  • 研究聊天机器人的公开部署的人机交互方面：用户研究、设计建议和开放挑战

    这篇研究提供了与研究聊天机器人交互方式和设计途径有关的 HCI 问题的见解和建议，并报告了最近进行的一项混合方法用户研究的结果。

    Jun, 2023

  • 处理聊天机器人中的闲聊的可信、负责和可解释系统

    本文介绍面向聊天机器人的查询理解决方案，包括基于层次化意图的请求分类和使用序列生成模型，以及综合性组件的集成，如成人 / 攻击性分类、语法 / 正则表达式、引导性反应和响应生成模型，以解决这一难题。

    Nov, 2018

  • 基于任务导向和非任务导向的口语对话系统结合的智能助理对话检测

    研究智能助手是否可以匹配用户的聊天意图，构建了新的数据集以及使用推特和 Web 搜索查询来处理无特定领域的用户发言，实验结果表明，使用 tweets 和 Web 搜索查询可以进一步提高智能助手的 F1 分数。

    May, 2017