Jan, 2023

使用因果推论模型改进开放领域对话评估

PDF
TL;DR本文探索了预测针对开放领域对话的专家和用户评分的自动化方法，比较了四种不同的方法，其中提出的 counterfactual-LSTM (CF-LSTM) 模型在对话评分和分类方面的表现最好。
evaluation methodsconversational dialogue systemsautomated methodsexpert ratingsuser ratings
发现论文，激发创造
  • 通过用户满意度估计进行多域会话质量评估

    本文提出了一种新的基于响应质量注释方法的自动化指标，通过引入五个新的与领域无关的特性集，实现了在单轮和对话层面上估计用户满意度的机器学习模型，并取得了较高的预测表现。

    Nov, 2019

  • 任务导向对话系统中用户满意度估计的因果评估

    利用大型语言模型 (LLMs) 生成注重满意度的反事实对话以增加测试集中的原始对话样本，并通过人工注释验证，研究表明，与最先进的微调模型相比，开源的大型语言模型作为少样本的用户满意度评估器，在测试集中不满意标签数量的增加时表现出更高的鲁棒性。

    Mar, 2024

  • 多领域对话中的联合转向和对话级别用户满意度估计

    提出了一种新颖的用户满意度估计方法，它可通过 BiLSTM 深度神经网络模型共同预测专家提供的转化级别响应质量标签和最终用户提供的显式对话级别评分，并自动权衡每个操作对估计对话级别评分的贡献，隐式编码时间依赖关系，无需手工制作特征。在 28 个 Alexa 领域、两个对话系统和三个用户组的对话中，综合对话级满意度估计模型比基准深度神经网络和梯度提升回归模型在线性相关性能上实现了最高达 27%（0.43->0.70）和 7%（0.63->0.70）的提升。

    Oct, 2020

  • 自动对话评估的用户响应和情感预测

    本文提出了三种方法，利用情感分析对开放域对话进行自动评估，并在书面和口头对话数据集上胜过现有的自动评估指标。

    Nov, 2021

  • 基于用户满意度评估的领域无关的对话质量评估

    该研究提出了一种新的 Response Quality 标注方案，基于此开发了一种新的以轮为单位的用户满意度量。使用五个新的与领域无关的特征集和六种机器学习模型来估算新的满意度量，方法显著提高了模型性能和泛化能力。

    Aug, 2019

  • 使用下一句预测和互信息在潜空间中评估开放领域对话

    提出一种利用条件变分自编码器和下一句预测目标来处理开放领域对话的评估方法，该方法在潜空间中运用互信息建模以考虑文本语义相似性，实验证明这种学习基方法在处理含有语义不同的多个恰当回复时优于其他模型。

    May, 2023

  • 利用用户情感进行自动对话评估

    本文提出使用自动提取的信息作为衡量已有机器人回答质量的替代方法，从而避免了对人工标注数据的依赖，实现对弱监督数据的训练，并添加了对口语和书面语的支持。

    Mar, 2022

  • 使用大规模人类反馈数据进行对话响应排名训练

    通过社交媒体反馈数据构建训练集，在 133M 个人类反馈数据上训练了基于 GPT-2 的 DialogRPT 模型，结合评分模型排名机器生成的对话回复，并通过人类评估证明其效果优于基线模型。

    Sep, 2020

  • 使用双向 LSTM 提高互动质量估计及其对对话策略学习的影响

    该篇研究基于用户满意度设计了奖励信号用于针对统计口语对话系统中适当和良好表现的对话行为，并使用新的满意度估计模型，在多个领域应用该模型，表现出更高的用户满意度估计，相似的任务成功率和更高的抗噪声性能。

    Jan, 2020

  • 使用跟进概率进行开放域对话评估

    本研究提出一种新的自动对话评估方法，使用固定的跟进集合（例如，这里没有真正相关的内容，你想说什么），测量语言模型继续对话的概率。相对于现有的 12 种评估方法，本方法与人类评估的相关性最高。

    Sep, 2022