Feb, 2024

HGOT: 检索辅助上下文学习中的思想层次图对真实性评估

PDF
TL;DR利用大语言模型（LLMs）在检索增强的上下文学习中的层次图思路（HGOT），该框架通过将复杂查询细分为可管理的子查询，并使用最近提出的引文召回和精度指标来评估思想的质量，从而增强了 LLMs 的真实性。
large language modelshallucinationshierarchical graph of thoughtsretrieval-augmented in-context learningfactuality
发现论文，激发创造
  • 思维的逻辑查询：通过知识图谱引导大型语言模型回答复杂逻辑查询

    本文提出了 'Logic-Query-of-Thoughts' (LGOT) 方法，首次将大型语言模型 (LLMs) 与基于知识图谱的逻辑查询推理相结合，通过将复杂的逻辑查询拆解为易答的子问题，并利用知识图谱推理和 LLMs 共同解答，最终获得准确的结果。实验结果显示 LGOT 在性能上得到了大幅提升，相比 ChatGPT 提高了 20%。

    Mar, 2024

  • DGoT：用于科学摘要生成的动态思维图

    我们提出了一种动态思维图 (DGoT) 的方法，它在减少模型推理成本的同时，不仅继承了现有 GoT 提示方法的优点，还根据数据特征动态调整图结构。实验结果表明，我们的方法在摘要生成任务中的性价比仅为其他多轮查询提示方法的 43.7% 至 56.4%。

    Mar, 2024

  • 思维图：用大型语言模型解决复杂问题

    Graph of Thoughts (GoT) is a framework that advances prompting capabilities in large language models (LLMs) by modeling LLM thoughts as an arbitrary graph, enabling combination, distillation, and enhancement of thoughts, offering advantages over existing paradigms and allowing for extensibility with new thought transformations.

    Aug, 2023

  • 大型语言模型中的思维过程图推理：超越思维链的有效方法

    使用 T5 预训练模型实现了图形思维推理模型，提高了基于文本推理任务 GSM8K 的性能和面向多模态的推理任务 ScienceQA 的准确率，通过较少的骨干模型参数与基于 700M 参数的 Multimodal-CoT 模型获得相当的结果，探索了非线性思考的建模方法。

    May, 2023

  • RAT: 检索增强思维在长远生成中引发上下文感知推理

    通过信息检索迭代修订思维链能够显著提高大型语言模型在长期生成任务中的推理和生成能力，同时极大地减少错误生成。

    Mar, 2024

  • 图式推理：基于图形的增强大型语言模型

    使用 Graph-CoT 框架，通过对图进行迭代推理，将大型语言模型（LLMs）与图相结合，从而提高知识密集型任务中的性能。

    Apr, 2024

  • 专家思维：多模态思维超图（HoT）推理提升基础模态

    本文提出了一种基于多样图思维的类专家级超图的推理范式 (HoT)，使基础模型具备高阶多跳推理和多模态比较判断的专家级能力。实验结果表明，该方法在 ScienceQA 基准上优于基于 CoT 的 GPT3.5 和 chatGPT，并且与基于 CoT 的 GPT4 相当，模型大小更小。

    Aug, 2023

  • 使用知识图谱直接评估多跳推理中的思路一致性

    大型语言模型（LLMs）在生成连贯思路解释时展现出强大的推理能力，然而，之前的研究仅关注于回答的准确性，忽略了生成的连贯思路的正确性。本文通过利用知识图谱（KGs）深入探讨 LLMs 在多跳问题回答中的连贯思路推理能力。我们提出了一种新颖的区分性和生成性连贯思路评估范式，用于评估 LLMs 关于推理的知识和生成连贯思路的准确性。通过在两个多跳问题回答数据集上对 5 个不同家族的 LLMs 进行的实验证明，LLMs 具有足够的知识进行推理，然而，LLMs 生成的连贯思路的准确性与回答的准确性存在显著差异，表明它们经常通过错误的推理方法得出正确的答案。

    Feb, 2024

  • 通过新框架提升大型语言模型中的逻辑推理能力：思维图

    利用 Graph of Thoughts (GoT) 和 prompting engineering 技术，我们的方法在解决多步骤逻辑推理问题方面超越了 GPT-4，分别获得了 89.7%、86% 和 56% 的准确率提升，并且相较于最先进的 Tree of Thought (ToT) 方法，我们的方法在准确率上平均提升了 23%、24% 和 15%。

    Aug, 2023

  • 思考与检索：假设知识图谱增强医学大型语言模型

    借助知识图谱增强的假设知识图谱增强框架（HyKGE）整合 LLMs 和知识图谱，在解决精度和可解释性挑战方面表现卓越，特别适用于医学领域中的复杂和困难场景。

    Dec, 2023