这篇研究论文关注于大型语言模型在医疗领域中所带来的幻觉挑战。通过提出一个新的基准和数据集（Med-HALT），该研究评估了几种先进的语言模型，并揭示了它们之间的显著差异。这项工作旨在为医疗保健中的语言模型的开发做出贡献，提高其安全性和可靠性。

Jul, 2023

通过与大规模语言模型和数据集合作，本文分析了医学生成型问答系统中幻觉现象的问题，并提出了一种交互自我反思的方法来解决该挑战，最终实验证明该方法在幻觉减少方面优于基线模型。

Oct, 2023

本文阐述了人工智能幻觉的根本原因及其在人工智能中的重要意义，并就幻觉分类进行了研究，包括机器翻译、问答系统、对话系统、摘要系统、基于大语言模型的知识图谱以及视觉问答等多个任务。同时，本研究探讨了缓解幻觉的潜在策略，旨在提高大语言模型的整体可靠性。该研究属于HeReFaNMi（Health-Related Fake News Mitigation）项目的一部分，该项目得到NGI Search的慷慨支持，旨在抑制互联网上健康相关虚假新闻的传播，致力于在不断演进的人工智能技术时代保护信息传播的完整性。

Nov, 2023

提出了一个多阶段的框架，通过生成合理的依据并验证修正错误，将其作为支持参考生成答案，提高了GPT-3.5-turbo在生命科学行业药物相关查询中的响应质量。该框架使得GPT-3.5-turbo对两个数据集的答案更可靠和准确，并通过与商业模型进行竞争，提高了小型开放访问的LLMs的准确性。

Nov, 2023

这篇论文综述了32种技术，旨在减轻大型语言模型中的幻觉问题，其中包括检索增强生成、知识检索、CoNLI和CoVe等方法，并提出了基于数据集利用、常见任务、反馈机制和检索器类型等参数的分类方法，以区分专门设计用于解决大型语言模型幻觉问题的各种方法。此外，还分析了这些技术中存在的挑战和局限性，为未来研究提供了坚实的基础。

Jan, 2024

最近大型语言和视觉模型在视觉问答（VQA）方面取得的成功，特别是在医学领域的应用（Med-VQA），表明实现有效的医疗视觉助手具有巨大潜力。然而，这些模型在临床环境中并没有经过广泛测试，我们在这里创建了一种医学图像的幻觉基准，并对最先进的模型进行了全面评估。该研究对当前模型的局限性进行了深入分析，并揭示了各种提示策略的有效性。

Jan, 2024

通过构建 K-QA 数据集，使用自然语言处理模型评估，在临床环境中确保大型语言模型提供的回答的准确性至关重要。

Jan, 2024

本文针对大型语言模型在医疗问答系统中产生幻觉（即不准确或不可靠的响应）的问题，提出了HALO框架，旨在提高其准确性和可靠性。该框架通过生成多种查询变体并从外部知识库中检索相关信息，显著提升了开放源代码和商业大型语言模型的准确性，从而优化临床决策和患者护理。

Sep, 2024

本研究针对大型语言模型在医疗问答系统中出现的幻觉问题，提出了一种新框架HALO，旨在提高答案的准确性和可靠性。通过生成查询的多种变体并从开放知识库中检索相关信息，结合最大边际相关性评分来优先处理信息，显著提升了多个大型语言模型的准确性，从而改善了临床决策和患者护理。

Sep, 2024

本研究解决了大型语言模型在医学应用中生成缺乏支持证据或基于虚构证据的回答的问题。通过开发包含70,000份眼科特定文档的检索增强生成(RAG)管道，研究系统性地评估了在100个健康问题上含RAG和不含RAG的LLM的回应，发现RAG显著提高了准确性，并减少了错误率，表明其在医学领域的应用潜力。

Sep, 2024