Aug, 2024

通过迭代跟进问题改进医学中的检索增强生成

HTML
PDF
TL;DR本研究解决了大型语言模型在复杂医学问题中检索增强生成（RAG）能力不足的问题。我们提出了医学迭代RAG（i-MedRAG），能够基于先前的信息获取逐步提出后续问题，从而改善医学问答性能。实验结果表明，i-MedRAG在回答复杂医学问题上优于传统RAG，尤其在零-shot设置下在MedQA数据集上实现了69.68%的准确率。
发现论文，激发创造
  • 大型语言模型的生物医学知识图增强提示生成

    提出了一种融合知识图谱和大型语言模型的框架，通过优化方式，增强了通用型语言模型适应处理领域特定问题的能力。

    Nov, 2023

  • 借助具备检索增强功能的大型语言模型改进医学推理

    自主生物文档检索增强式生成（Self-BioRAG）是一种可靠的生物医学文本生成解释、检索特定领域文档，并进行自我反思的框架。通过使用84k个过滤后的生物医学指令集训练Self-BioRAG，它可以使用定制的反思标记评估其生成的解释。实验结果表明，Self-BioRAG在三个主要的医学问答基准数据集上实现了显著的性能增益，平均绝对改进率为7.2％，超过了参数大小为7B或更少的最先进的开放式基础模型。我们将数据和模型权重（7B和13B）发布出来，以增强生物医学和临床领域的能力。

    Jan, 2024

  • 大型语言模型中的检索增强生成的开发与测试--一份案例研究报告

    大型语言模型（LLMs）在医疗应用中具有重要潜力，而检索增强生成（RAG）被认为是一种有前景的方法来定制LLMs中的领域知识。该研究通过开发和评估一个专门针对医疗保健领域、特别关注术前医学的LLM-RAG流程，验证了其可行性。

    Jan, 2024

  • 医学领域检索增强生成的基准测试

    通过在医学问答数据集上的大规模实验，我们提出了一种基于检索增强生成的评估框架MIRAGE，以改善大型语言模型在医学领域中的表现，并通过引入MedRAG工具包提高了六个不同语言模型的准确性，最高可达到18%，将GPT-3.5和Mixtral的性能提升至GPT-4级别。

    Feb, 2024

  • 工具呼叫：通过检索增强大型语言模型提升药物咨询

    基于检索增强生成（RAG）的大规模语言模型（LLMs）在医学领域的知识密集型任务中表现出显著的性能提升，着重研究了利用LLMs和RAG框架回答基于医药数据库的查询问题，并提出了Distill-Retrieve-Read框架用于关键字搜索，实验结果证明了该框架在证据检索准确性方面的优势。

    Apr, 2024

  • 知识增强的高效医疗问答与问题生成

    通过在医学学科上对小型语言模型进行微调和使用 GPT-4 生成类似下游任务的问题进行微调，我们提出了一种方法来提高医学领域中小型语言模型的熟练度。此外，我们还引入了包含相关问题序列的“渐进问题”的 ECN-QA，以展示我们的训练策略的好处。

    May, 2024

  • 增强医学知识检索辅助生成：自奖励树搜索和近端策略优化

    通过结合Large Language Models的推理能力和Tree Search的效果，我们提出了一种基于Self-Rewarding Tree Search的新型LLM检索方法，通过使用SeRTS收集的轨迹作为反馈来使用Proximal Policy Optimization优化LLMs，从而显著提高了在医学知识查询背景下RAG的性能，为准确和全面的生物医学问题回答分享了LLMs的潜力。

    Jun, 2024

  • 如何确定？教会生成式语言模型参考生物医学问题的答案

    通过使用生物医学检索增强生成 (RAG) 系统，将具有参考文献的问题答案引入经过微调的大型语言模型 (LLM)，并使用 PubMed 文摘验证答案，本研究在提供准确可靠答案方面取得了显著进展。

    Jul, 2024

  • 通过大型语言模型增强医疗保健：关于医学问答的研究

    本研究针对大型语言模型在医疗保健中的应用，通过对MedQuAD医学问答数据集进行深入分析，识别出最有效的模型。研究发现，Sentence-t5与Mistral 7B的组合在提供准确医疗信息方面表现优越，精度达0.762，突显了高级预训练技术和有效的提示构建方法在医疗知识获取中的潜力。

    Aug, 2024

  • 通过领域特定检索增强生成提升大型语言模型的能力：以眼科学中的长篇消费者健康问题回答为案例研究

    本研究解决了大型语言模型在医学应用中生成缺乏支持证据或基于虚构证据的回答的问题。通过开发包含70,000份眼科特定文档的检索增强生成(RAG)管道，研究系统性地评估了在100个健康问题上含RAG和不含RAG的LLM的回应，发现RAG显著提高了准确性，并减少了错误率，表明其在医学领域的应用潜力。

    Sep, 2024