Apr, 2024

聊天检索器：将大型语言模型用于通用和鲁棒的对话密集检索

PDF
TL;DRChatRetriever 是一个通过对比学习调整的对话式检索模型，能够准确解读用户意图并表示复杂对话会话，通过在高质量对话指令数据上进行掩码训练进一步提升对话理解，实验证明在五个对话式检索基准上 ChatRetriever 显著优于现有模型，在复杂对话上表现出卓越的鲁棒性，展示了适应 LLM 的潜力并推进了对话式检索研究的发展方向。
conversational searchchatretrieverdual-learning approachdense retrievalllm-based rewriting approaches
发现论文，激发创造
  • 通过 LLM-Cognition 数据增强来概括对话式密集检索

    通过 LLM - 认知数据增强（ConvAug）的方式，本文提出了一个泛化会话密集检索的框架，生成多级增强会话以捕捉会话上下文的多样性，利用认知感知过程减少误报、漏报和幻觉，通过难度自适应的样本筛选改进模型的学习空间，采用对比学习目标训练更好的会话上下文编码器。通过在四个公共数据集上进行广泛实验，包括正常设置和零样本设置，证明了 ConvAug 的有效性、泛化性和适用性。

    Feb, 2024

  • 通过大型语言模型重定义结构化数据库的信息检索

    本文介绍了一种名为 ChatLR 的新型检索增强框架，主要利用大型语言模型（LLMs）的强大语义理解能力作为检索器，以实现精确和简洁的信息检索。通过在金融领域微调 LLM 并构建基于 LLM 的搜索和问答系统，实验证明 ChatLR 在解决用户查询中表现出高达 98.8％的信息检索准确性。

    May, 2024

  • Chat-REC：面向可交互和可解释的 LLMs 增强型推荐系统

    本文提出使用大型语言模型与 Chat-Rec 范例的对话推荐系统（CRS）来提高传统推荐系统的互动性与可解释性，并演示了其在学习用户喜好和在零样本评级预测任务的表现改进方面具有的有效性。

    Mar, 2023

  • 对话状态跟踪中有效且高效的会话检索与隐式文本摘要

    基于大型语言模型的少样本对话状态跟踪研究，通过有效且高效的对话检索器，在没有细调数据的情况下，利用对话的文本摘要进行检索并获得显著提升。

    Feb, 2024

  • 探索检索器和大型语言模型的整合策略

    本文旨在研究不同的方法将检索到的段落与大型语言模型相结合，以提高答案生成能力，并通过综合分析和实验证明了有效利用检索到的段落来增强大型语言模型答案生成能力的见解。

    Aug, 2023

  • 在大语言模型时代重新思考对话式推荐系统的评估

    本文介绍了利用大型语言模型进行对话推荐的研究，并提出了一种基于 LLM 的用户模拟器的交互式评估方法 iEvaLM，从而改善了现有的评估协议。在两个公共数据集上的实验表明，ChatGPT 展现出较大的优势，并强调解释性的评估。此研究有助于更深入地理解 LLMs 在 CRSs 中的潜力，并为未来的研究提供一个更灵活、易于使用的评估框架。

    May, 2023

  • LARA：语言适应检索增强多轮意图分类的语言模型

    综合实验表明，LARA 在多轮意图分类任务上的性能处于最先进水平，相较于现有方法提高了 3.67% 的平均准确率。

    Mar, 2024

  • 在对话式推荐系统中利用大型语言模型

    本文提出了一个使用大型语言模型的端到端大规模语音推荐系统，并介绍了一些技术和实现细节，包括用户偏好理解、灵活对话管理、基于 LLM 的用户仿真器等。

    May, 2023

  • 评估 LLM 代理商的非常长期对话记忆

    通过使用基于 LLM 的代理体系结构和将对话与人物和时间事件图进行关联，我们介绍了一个机器 - 人类管道来生成高质量的非常长期的对话，并通过人类注释者对其进行检验和编辑，以确保其长程一致性和对事件图的关联。通过这个管道，我们收集了一个包含 300 个回合和平均 9K 个记号的非常长期对话的数据集。基于该数据集，我们提出了一个全面的评估基准来衡量模型中的长期记忆，在问题回答、事件摘要和多模态对话生成任务方面。我们的实验结果表明，LLM 在理解冗长对话和理解对话中的长程时间和因果动态方面存在挑战。使用长上下文 LLM 或 RAG 等策略可以提供改进，但这些模型仍然远远落后于人类的性能。

    Feb, 2024

  • 最佳问题询问：将大型语言模型与检索器在对话式搜索中的偏好进行对齐

    通过 RetPO 框架，使用 Retrievers' Feedback 构建了一个大规模数据集，属于对话语境下的问题重述，并通过该数据集对较小的语言模型进行了微调，从而在两个最新的对话式搜索基准测试中实现了最新、显著超越包括 GPT-3.5 在内的现有基准。

    Feb, 2024