Sep, 2023

LeanContext: 高效领域特定问答的成本效益探究利用 LLMs

PDF
TL;DRLeanContext 是一种从上下文中高效提取与查询密切相关的关键句子的方法，采用强化学习技术动态确定提取的句子数量，其余重要性较低的句子通过开源的文本缩减方法进行缩减。与保留完整上下文的基准方法相比，尽管成本减少了 37.29％至 67.81％，LeanContext 的 ROUGE-1 得分仅下降了 1.41％至 2.65％。此外，如果使用免费预训练的基于大型语言模型的摘要方法来缩减上下文，LeanContext 可以进一步修改缩减后的上下文，提高准确性（ROUGE-1 得分）13.22％至 24.61％。
question-answeringlarge language modelsleancontextcontext reductionsummarization
发现论文，激发创造
  • 基于知识增强的大型语言模型个性化上下文查询建议

    通过与用户与搜索引擎的交互历史相关的上下文，我们提出了一种新颖且通用的方法，用于个性化输出，这对于理解用户当前的搜索背景以及他们历史上知道和关心的内容是必要的。我们验证了我们的方法在上下文查询建议的任务上优于几个其他 LLM 基准方法，生成了在上下文中更相关、个性化和有用的查询建议。

    Nov, 2023

  • 基于知识的大型语言模型的高效问答系统

    Coke 是一种新颖的成本有效的 KBQA 策略，它通过将 LLMs 和 KGMs 相结合，作为一个定制的多臂赌博问题来最小化对 LLMs 的调用，从而在有限的预算内实现成本节约并提高准确性。

    May, 2024

  • 半结构领域中的检索辅助思维链

    本研究通过利用法律和金融数据的半结构化特点，实现有效检索相关背景知识来解决将现有问答系统应用于法律和金融等专业领域所面临的挑战，使得大型语言模型在领域特定的问答任务中表现优异，同时提供有用的答案解释，鼓励将大型语言模型整合到未来的法律和金融自然语言处理系统中进行研究。

    Oct, 2023

  • PerkwE_COQA：将上下文关键词提取与大型语言模型相结合以增强波斯语会话问答

    本篇论文提出了一种新的方法，通过结合大型语言模型（LLMs）和上下文关键词提取，提升波斯语对话式问答系统（CQA）的性能，实现更准确、连贯的回答，有效处理隐含问题和依赖于对话上下文的复杂问题。评估结果显示，该方法在 CQA 性能上相较于现有方法和仅使用 LLMs 的基准测试结果高出 8%。

    Apr, 2024

  • 背景问题：基于图结构知识背景推动开放式回答生成的边界

    通过引入图驱动的上下文检索和基于知识图谱的增强来提高大型语言模型的能力，特别是在特定领域的社区问答平台中，提供上下文丰富的数据检索与大型语言模型的配对，为 AI 系统中的知识获取和生成带来了一种新的方法。

    Jan, 2024

  • 一种可控的基于问答的去文本化框架

    本文研究了基于 LLMs 的篇章去文脉化在用户面向场景下的局限性，主要集中在两个现实世界应用中，即问答和科学文献的引文预览。我们提出了一个针对篇章去脉冲化的问答框架，该框架允许更好地处理用户信息需求和偏好，我们的结果表明，在我们的框架下，最先进的 LLMs 仍然具有与端到端方法相当的竞争力。我们还探索了将用户偏好纳入系统中，发现我们的框架可以实现可控性。

    May, 2023

  • FusionMind -- 提升问题与回答的外部上下文融合

    利用预训练语言模型（LMs）和知识图谱（KGs）解答问题存在识别相关知识和进行联合推理的挑战。通过与先前发表的 QAGNN 方法进行比较，我们发现将相关的知识事实纳入问题上下文有助于提高问题回答性能，而将知识图谱融入语言模型中则只能带来少量增长，这表明将上下文知识事实结合起来可能对增强问题回答性能更具影响力。

    Dec, 2023

  • 高效鲁棒的基于极小上下文的文档问答

    该研究探讨了答题所需的最小上下文，并提出了一种简单的句子选择器用于选择最小的句子来喂养问答模型，以实现训练和推理时间的显著减少并提高精度，并且更加鲁棒。

    May, 2018

  • LLM 辅助的半监督式提取式对话摘要

    使用未标记数据进行客户 - 代理商对话的摘要生成，通过将摘要问题建模为问答问题，使用大型语言模型生成伪标签，并通过精细调整专门的聊天总结模型来有效地从大型语言模型中转移知识。

    Nov, 2023

  • 不留下任何文件：扩展多文档问答中的长上下文语言模型基准测试

    提出了一个新的长上下文基准测试 Loong，通过扩展的多文档问题回答来实现与现实场景的对齐，来评估模型的长上下文建模能力。

    Jun, 2024