EMNLPOct, 2023

STEER: 语义转向扩展识别对话助理

PDF
TL;DR在语音助手系统中，steering 是指用户发出后续指令以引导或澄清上一轮对话的现象。我们提出了一种名为 STEER 的 steering 检测模型，能够预测后续指令是否是用户试图引导上一个指令的意图。我们通过开发启发式规则来构建训练数据集，以应对 steering 用例的冷启动问题，并且在我们的采样数据上取得了超过 95% 的准确率。此外，我们引入了 STEER+，它在用户转录的基础上利用语义解析树来提供更多上下文信息，特别是对于通常出现在句子边界的命名实体等生词。我们还展示了一项数据分析，突出了语音助手支持 steering 用例时用户体验的改善。
发现论文，激发创造
  • 引导语言生成：利用对比专家指导和负面提示进行连贯多样的合成数据生成

    通过对比专家指导和利用现有真实和合成示例实施对抗，STEER 通过嵌入重新定位来解决一致性和多样性问题，从而在生成合成数据时取得了更好的平衡。

    Aug, 2023

  • STEER: 基于专家强化学习的统一风格转移

    STEER 是一个统一的框架，通过专家增强（Expert Reinforcement）实现样式转移，用于解决样式转移中有限并行数据的挑战。该方法在多个目标样式中能够从任意未知源样式进行转移，具有灵活和高效的特性，取得了具有竞争力的基准线之上的最先进结果。

    Nov, 2023

  • 5IDER: 统一查询重写，用于引导，意图延续，语篇失连，实体延续和修复

    本文提出了一种非自回归查询重写体系结构，可以处理多轮会话中的转向、意图携带、语言不流畅、实体携带和修复等五种任务，同时具有较高的性能优势。

    Jun, 2023

  • HelpSteer2: 用于训练最佳奖励模型的开源数据集

    通过使用 HelpSteer2 进行训练，我们提出了 SteerLM 2.0 模型对齐方法，能够有效利用我们的奖励模型预测的多属性分数，从而在对齐大型语言模型方面取得了 92.0% 的最新成果。

    Jun, 2024

  • 通过将检测演讲者意图作为次要任务来改善口语对话中的转折点检测

    本文介绍了使用声学线索模型来理解对话者交替的研究，提出了一种多任务神经方法，同时预测转换转变和发言者意图，实验结果表明，使用发言者意图预测的辅助任务可以提高对话中转换转变的预测性能。

    May, 2018

  • 深度转向：从时空视觉线索中学习端到端驾驶模型

    本文研究利用低成本车载摄像头进行自主驾驶算法，并通过深度神经网络将原始输入图像直接映射到方向盘角度的视觉模型，提出了一种结合空间和时间线索的模型，有助于解释学习到的模型，通过分析人类驾驶数据，比较了此模型与其他自主驾驶车辆状态先进模型的性能差异。

    Aug, 2017

  • HelpSteer: StreamLM 的多属性有益数据集

    通过使用 HelpSteer 数据集和 SteerLM 技术训练 Llama 2 70B 模型，我们在 MT Bench 上获得了 7.54 的分数，这是目前不需要更强大模型（如 GPT4）的训练数据的开放模型得分最高的。

    Nov, 2023

  • 扩展激活引导至广泛技能和多重行为

    目前的大型语言模型具有危险的能力，这些能力在将来可能变得更加问题。激活引导技术可以用来减少这些能力带来的风险。本文通过调查激活引导在广泛技能和多种行为方面的功效，首先比较了减少整体编码能力和 Python 特定能力对绩效的影响，发现调整更广泛的技能与调整更狭窄的技能具有竞争力；其次，我们引导模型变得更加短视和追逐财富等其他行为。在我们的实验中，将多种行为的调整向量合并为一个调整向量的方法基本上不成功。另一方面，同时在模型的不同位置插入个别的调整向量是有前景的。

    Mar, 2024

  • 大型语言模型的个性化引导：通过双向偏好优化实现多功能引导向量

    通过双向偏好优化来产生更有效的转向向量，从而在多种开放生成任务中实现个性化控制，并在关键对齐场景中展示出卓越的转向效果以及多个向量同时应用时的协同效益。

    May, 2024

  • 从预训练语言模型中提取潜在的操纵向量

    本研究提出一种新的控制文本生成方式，在不进行优化的情况下直接从预训练的语言模型解码器提取潜在向量。实验证明存在可用于控制的方向向量，并且可以用于 YELP 情感基准测试和文本相似性基准测试，反映句子的相似性。

    May, 2022