Apr, 2022

大规模对话式人工智能中基于自我意识的反馈型自学习

PDF
TL;DR本文探讨了基于马尔可夫的查询重写系统在大规模对话 AI 代理中的应用以及反馈对训练结果的影响，提出了一种超级位置法邻接矩阵来改进马尔可夫图的构造，并使用数据增强策略简化学习过程。实验表明，自我感知模型总体性能提高了 27.45%，相对缺陷减少了 31.22%，并且能更快地适应全球客户的偏好变化。
发现论文，激发创造
  • 大规模会话型 AI 代理的基于反馈的自学习

    本研究提出了一种自学习系统，使用用户 - 系统交互反馈信号自动纠正对话式人工智能系统中出现的各种组件错误，并通过吸收马尔可夫链模型挖掘这些反馈信号中的共同模式，进行可扩展的改进，实现了大规模对话式人工智能系统的自主学习，能显著降低过多次错误和缺陷。

    Nov, 2019

  • 从自我参照 AI 反馈中对齐大型语言模型的一个通用原则

    通过自我引用的 AI 反馈框架，允许 13B Llama2-Chat 模型以 “最适合人类” 的原则为基准，对用户指令回应进行批判，从而提供高质量的偏好反馈，并通过自洽性方法减少位置偏差的影响、使用语义困惑度来计算不同回答的偏好强度差异，实验证明该方法使 13B 和 70B Llama2-Chat 注释器能够提供高质量的偏好反馈，并且基于这些偏好数据训练的策略模型在基准数据集上通过强化学习取得了显著的优势。

    Jun, 2024

  • 口语问答自学习的自监督对话学习

    本研究通过自监督学习方式，包括不连贯性识别，插入检测以及问题预测，明确捕捉口语对话文档之间的指代消解和对话连贯性，提高了口语对话的意义和连贯性。在 Spoken-CoQA 数据集上取得了最先进的结果。

    Jun, 2021

  • 自问自答：无监督知识引导的语言模型对齐

    本文介绍了一种称为 Self-QA 的创新框架，利用大量无监督知识代替传统的人工撰写指导文件种子，从而生成更多正确和特定于领域的指导数据，以克服创建用于指导调整的监督配对问答数据所面临的挑战。

    May, 2023

  • 大规模对话 AI 系统中可扩展和鲁棒的自学习技能路由

    本文提出了一种可扩展的自学习方法，以探索技能路由替代方案，无需引起用户体验中断的突然更改，并通过经常的模型更新逐步改善路由，通过离线和在线 A / B 实验在商业大规模对话系统中演示了所提出方法的实际效果。

    Apr, 2022

  • 从对自然语言反馈的对抗修改中学习即兴聊天机器人

    该研究通过引入生成对抗模型，将含杂谈反馈转换成具有自然样式的回复，可用于训练聊天机器人模型，提高正确回复的准确率。

    Oct, 2020

  • 自监督对比学习：面向对话代理的高效用户满意度预测

    该研究开发了一种利用自监督对比学习和少样本迁移学习的方法，能显著减少标注数目，并提高面向未知领域技能的泛化性能。

    Oct, 2020

  • 监督与自我对弈在新兴通讯中的相互作用

    本研究探讨了一种新的教授人工智能代理人使用自然语言的方法，发现在通过受监督的学习奖励和自我对弈的信号两种方式的训练后比直接从头开始进行自我学习效果更好，并提出了一种基于人群的方法以进一步提高表现。

    Feb, 2020

  • 构建可靠流畅的大型语言模型：在问答系统中引入反馈学习循环

    为了解决大型语言模型在引文、正确性和流畅度方面存在的问题，本研究通过构建数据集、引入自动化反馈机制和反馈学习循环，成功提高了 ChatGPT 的引文和流畅度指标，并保持高水平的正确性。

    Sep, 2023

  • 自主驱动的语言模型从零开始的最小人工监督自我对齐

    研究提出了 SELF-ALIGN 方法，利用少量人工监督和结合原理驱动推理和 LLM 的生成能力，实现 AI 助手的自我对齐，减少人工监督的依赖，获得更好的性能，开发了 Dromedary AI 助手。

    May, 2023