如约而至的聊天：学习操作黑盒神经对话模型

May, 2020

如约而至的聊天：学习操作黑盒神经对话模型

Chat as Expected: Learning to Manipulate Black-box Neural Dialogue Models

Haochen Liu, Zhiwei Wang, Tyler Derr, Jiliang Tang

TL;DR本文旨在探索通过学习如何构造输入句子，从而使黑盒神经会话模型生成所期望的输出，并提出了一个基于强化学习的模型，通过在经典模型上的实验验证了该方法的有效性，从而揭示了神经会话模型被操纵的潜力，启发和开展神经对话模型的防御策略。

Abstract

Recently, neural network based dialogue systems have become ubiquitous in our increasingly digitalized society. However, due to their inherent opaqueness, some recently raised concerns about using neural models a

neural network dialogue systems manipulation reinforcement learning defense strategies

发现论文，激发创造

说我想说的话：走向神经对话模型的黑暗面

本研究利用强化学习算法构建了一个逆对话生成器，能够有效发现可以操纵神经对话模型输出的输入方法，并提出了该模型的安全性问题。

Sep, 2019

自动检测神经对话模型的问题

本文提出采用强化学习等两种方法来自动触发对话模型产生问题响应，以揭示现有最先进的对话模型存在的安全和矛盾问题。

Sep, 2021

持续学习神经对话管理

提出了一种基于神经网络框架的分层学习方法，通过监督学习和强化学习相结合，实现了对话管理任务中的有效性以及在高噪声的情况下提高性能。

Jun, 2016

对话生成的深度强化学习

本研究基于强化学习，建立一个可生成更多交互式回复、更长且不重复的对话、更容易回答问题的聊天机器人的神经对话模型。

Jun, 2016

基于网络的端到端可训练任务导向式对话系统

本文介绍一种基于神经网络的端到端可训练的目标导向对话系统，以及一种新的数据收集方法，该方法基于一种新型的管道式 Wizard-of-Oz 框架。该方法可用于开发对话系统，帮助用户在餐厅搜索领域自然地交流并完成任务。

Apr, 2016

数据操作：通过学习增强和重新加权实现神经对话生成的有效实例学习

本文提出了一种数据操纵框架来通过增强和突显有效的学习样本以及同时减少无效样本的影响来主动重塑数据分布，以优化对话生成模型的训练样本。通过选择性地增加训练样本并为每个实例分配重要性权重来转换训练数据。结果表明，该框架能够改善对话生成性能，符合各种自动评估指标和人类判断。

Apr, 2020

通过强化学习学习生成对话生成的提示

本文提出了将 prompting 和 reinforcement learning 相结合的方法以控制 chatbot 生成的内容，并通过 multi-task learning 提高该方法的泛化能力和适应性，实验证明所提出的方法可以成功控制多个 SOTA Dialogue Models。

Jun, 2022

神经对话应答生成的负样本训练

本文提出了一种名为 “负面训练” 的框架，通过寻找令人不满意的行为来微调模型，以显著减少恶意回应，或抑制频繁回应并提高回应多样性。

Mar, 2019

从对自然语言反馈的对抗修改中学习即兴聊天机器人

该研究通过引入生成对抗模型，将含杂谈反馈转换成具有自然样式的回复，可用于训练聊天机器人模型，提高正确回复的准确率。

Oct, 2020

基于对话的语言学习

研究人员在机器学习和自然语言理解方面的不懈探索中探讨了基于对话的语言学习，发现预测前瞻是一种有前途的学习策略，并表明它可以在没有奖励监督的情况下正确地回答问题。

Apr, 2016