ACLJun, 2024

一种基于 LLM 的生物医学发现知识综合和科学推理框架

PDF
TL;DRBioLunar 通过 Lunar 框架开发，是一种支持生物学分析的工具，特别强调在肿瘤学中的生物标志物发现和分子水平证据丰富化。该平台集成了大型语言模型（LLMs），以促进分布式证据空间中的复杂科学推理，提升异构数据源的协调与推理能力，展示了其在癌症研究中的实用性。BioLunar 利用模块化设计、可重用的数据访问和数据分析组件以及低代码用户界面，使各种编程水平的研究人员能够构建使用 LLM 的科学工作流程。通过促进从异构证据中进行自动科学发现和推理，BioLunar 体现了 LLMs、专业数据库和生物医学工具集成以支持专家级知识综合和发现的潜力。
发现论文，激发创造
  • IITK 参加 SemEval-2024 任务 2：探索 LLMs 在临床试验中安全生物医学自然语言推理方面的能力

    对大型语言模型在处理安全生物医学自然语言推理问题上的鲁棒性和一致性进行了研究，利用检索增强生成框架对预训练语言模型进行了比较分析，并在零样本设置下评估了它们的推理和解决问题能力。

    Apr, 2024

  • BioLORD-2023: 融合 LLM 和临床知识图谱洞察的语义文本表示

    我们在本研究中探讨了大型语言模型在补充生物医学知识图谱中的潜力，通过利用 UMLS 知识图谱和先进的大型语言模型，我们提出了一种新的先进方法，通过改进的对比学习阶段、新颖的自蒸馏阶段和权重平均化阶段，获得了生物医学概念和句子的高保真度表示。通过对 BioLORD 测试套件的严格评估和多样化的下游任务，我们证明了与以往先进技术相比的一致且显著的性能改进（例如，在 MedSTS 上提高了 2 点，在 MedNLI-S 上提高了 2.5 点，在 EHR-Rel-B 上提高了 6.1 点）。除了我们的新型英文生物医学模型外，我们还蒸馏并发布了与 50 多种语言兼容并在 7 种欧洲语言上进行了微调的多语言模型。我们最新的模型可以使许多临床流程受益，开启了生物医学语义表示学习在多种语言中发展的新途径，为全球的生物信息学研究人员提供了宝贵的工具。因此，我们希望看到 BioLORD-2023 成为未来生物医学应用的宝贵工具。

    Nov, 2023

  • 关于利用生物学问题的大型语言模型的推理能力和可访问性的调查

    本文讨论了过去十年在生物医学和大型语言模型方面取得的进展，还讨论了自然语言处理技术和工具如何与生物医学相结合。最后，通过引入一系列新的问题和提示，本文旨在对去年一项调查的结果进行扩展，以 quantifying 大型语言模型的推理能力改进以及普通用户所感受到的改进程度。此外，本文还通过要求大型语言模型深入回答开放性问题，扩展了生物文献检索的研究领域。

    May, 2024

  • SemEval-2024 任务 2 上的 D-NLP：评估大型语言模型的临床推理能力

    我们评估了在临床试验报告数据集上使用医学领域的热门开源和闭源大型语言模型的自然语言推理能力，并分析了它们在具有医学缩写和数量 - 定量推理要求的挑战性实例上的表现。Gemini，我们的领先大型语言模型，在测试集上获得了 0.748 的 F1 分数，在任务排行榜上位列第九。我们的工作是第一种在医学领域内全面检验大型语言模型的推理能力的工作。

    May, 2024

  • 生物医学中的 LLMs：临床命名实体识别研究

    该研究探讨了大型语言模型在医学领域中的应用，通过策略性地选择和设计提示语，增强模型在命名实体识别任务中的性能，并结合外部资源通过提示策略填补医学命名实体识别领域中的专业需求与通用语言模型之间的差距，最终提出的方法能够提高大型语言模型在医学命名实体识别任务中的 F1 分数。

    Apr, 2024

  • 生物医学和健康信息学中的大型语言模型：一项文献计量学综述

    大型语言模型（LLMs）已经迅速成为生物医学和健康信息学（BHI）中重要的工具，通过检查 2022 年至 2023 年的研究文章和合作网络，本文献计量回顾旨在全面了解 LLMs 在 BHI 中的应用情况。它进一步探讨了 LLMs 如何改善医疗诊断、患者参与、电子健康档案管理和个性化医学等 BHI 领域的自然语言处理（NLP）应用。同时，它还讨论了在 BHI 中使用 LLMs 所面临的伦理关切和实际挑战，比如数据隐私和可靠的医疗建议。展望未来，我们考虑 LLMs 如何进一步改变生物医学研究以及医疗服务和患者结果。该综合回顾对于了解生物医学和健康信息学中 LLMs 的当前状态和未来潜力的相关人员，包括研究人员、临床医生和决策者，具有重要价值。

    Mar, 2024

  • 科学大型语言模型：生物与化学领域综述

    大型语言模型 (LLMs) 在增强自然语言理解方面具有变革性的力量，代表着朝着人工通用智能迈出的重要一步。科学 LLMs 是一个新兴的领域，专门针对促进科学发现进行工程化设计。本文详细调查了科学 LLMs，并围绕生物化学领域进行了深入研究，包括文本知识、小型分子、大分子蛋白质、基因组序列以及它们的组合，从模型架构、能力、数据集和评估等方面进行了分析。最后，我们批判性地审查了当前的挑战，并指出了前景广阔的研究方向以及 LLMs 的进展。通过提供对该领域技术发展的全面概述，本调查力求成为研究人员在科学 LLMs 复杂领域中的宝贵资源。

    Jan, 2024

  • 语言模型能成为医学知识库吗？

    通过创建生物医学知识三元组的基准测试 BioLAMA，研究了预训练语言模型是否可用作具有生物医学特定领域知识的知识库。发现在近期提出的探测方法下，生物医学语言模型可以在检索生物医学知识方面取得 18.51% 的精确度，但多数预测与无主题的提示模板高度相关，因此限制了它们作为特定领域知识库的能力。

    Sep, 2021

  • 评估医学应用中的大型语言模型：一项调研

    综述医学领域中大型语言模型评估的现状、挑战以及将其负责地整合到临床实践中所需的持续研究和创新。

    May, 2024

  • 用于代码生成和数据分析的科学语言模型

    该研究报告关注大型语言模型在科学研究中的应用，调查了使用 LLM 工具的若干实际案例，特别是与软件工程相关的用例，结果显示了大型语言模型工具的潜力和问题。

    Nov, 2023