Jun, 2024

Tx-LLM: 大型药物治疗语言模型

PDF
TL;DR开发疗法是一个漫长而昂贵的过程，需要满足许多不同的标准，而能够加快这个过程的人工智能模型将是无价之宝。这篇论文介绍了 Tx-LLM，它是一个通用的大型语言模型，从 PaLM-2 中细调，能够编码关于不同治疗模式的知识，并在药物发现领域的多个阶段上同时进行预测，从而具有竞争力的性能。我们相信 Tx-LLM 是向编码生化知识的 LLMs 迈出的重要一步，未来可能成为整个药物发现开发过程中的一种端到端工具。
therapeuticsai modelstx-llmdrug discoveryllms encoding biochemical knowledge
发现论文，激发创造
  • 利用大型语言模型在药物分子和适应症之间进行翻译的新机遇

    药物分子和适应症之间的翻译是一个新颖的任务，本文评估了九种 T5 大型语言模型在此任务上的表现，并讨论了未来的改进方向。

    Feb, 2024

  • 医学中的大型语言模型综述

    在这篇论文中，我们回顾了大型语言模型（LLMs）的发展，重点关注医学 LLMs 的需求和应用。我们提供了现有模型的简要概述，旨在探索进一步的研究方向并使其对未来医学应用产生益处。我们强调了医学 LLMs 在应用中的优势，以及其发展过程中遇到的挑战。最后，我们提出了技术整合的方向来减轻挑战，并为医学 LLMs 的未来研究方向提供了建议，旨在更好地满足医学领域的需求。

    May, 2024

  • 大规模语言模型、科学知识与真实性：一项抗生素发现的系统分析

    本文研究了使用大型语言模型（LLMs）对话生物医学背景知识以及从大量的科学文献中提取信息的潜力，以抗生素发现为例，系统评估了 9 种最先进的模型在生成化合物定义和确定化合物 - 真菌关系方面的能力，并发现虽然最新模型在流畅度方面得到了改善，但其事实准确性仍然很低，而且模型存在偏向于过度呈现某些实体的问题。

    May, 2023

  • 医疗大语言模型综述：从数据、技术和应用到问责与伦理

    大型语言模型在医疗领域的利用引发了劲头和担忧，本文概述了目前开发的大型语言模型在医疗保健方面的能力，并阐明它们的发展过程，旨在提供从传统预训练语言模型（PLMs）到大型语言模型（LLMs）的发展路线图的概览。总的来说，我们认为正在进行一次重大的范式转变，从 PLMs 过渡到 LLMs，这包括从辨别式人工智能方法向生成式人工智能方法的转变，以及从以模型为中心的方法论向以数据为中心的方法论的转变。

    Oct, 2023

  • 利用大型语言模型进行天然界面与药理学数据库

    药物开发中，药理学家需要进行各种任务，比如文献回顾、假设制定、实验设计和结果解释。在本文中，我们介绍了一种基于大型语言模型（LLM）的自然语言接口，用于与存储在数据库中的结构化信息进行交互。我们的实验证明了所提出框架的可行性和有效性。该框架可以广泛查询各种药品数据和知识库。

    Jul, 2023

  • 癌症 LLM：一个癌症领域的大型语言模型

    该研究提出了 CancerLLM 模型，该模型具有 70 亿个参数和 Mistral 风格的架构，预先训练了 2,676,642 份临床笔记和 515,524 份病理报告，涵盖了 17 种癌症类型，并在三个与癌症相关的任务上进行了微调，包括癌症表型提取、癌症诊断生成和癌症治疗计划生成。评估结果表明，CancerLLM 相对于其他现有的语言模型取得了最先进的结果，平均 F1 得分提高了 8.1％。此外，CancerLLM 在两个提出的鲁棒性测试中表现优于其他模型，这表明 CancerLLM 可以有效应用于临床 AI 系统，增强了癌症领域的临床研究和医疗服务。

    Jun, 2024

  • 大型语言模型蒸馏药物推荐模型

    利用大型语言模型（LLMs），本文提出了一种名为 LEADER 的新方法，通过创建适当的提示模板和特征级知识蒸馏技术，将现有的药物推荐方法转化为更加高效和精确的形式。

    Feb, 2024

  • 通用到医疗应用的大型语言模型调查：数据集、方法论和评估

    大型语言模型（LLMs）在各种自然语言处理任务中表现出令人惊讶的性能。最近，结合领域特定知识的医学 LLMs 在医疗咨询和诊断方面展现出卓越能力。本文系统地探讨了如何基于通用 LLMs 训练医学 LLMs，并提供了指导各种医学应用的 LLMs 发展的方法。

    Jun, 2024

  • 大型语言模型阐明人工医疗助理的进展路径：综述

    通过综述大型语言模型在医学领域中的应用和意义，揭示了它们在知识检索、研究支持、临床工作流自动化和诊断辅助等方面的效用，并探索了多模态语言模型以及自动化代理在医疗保健中的发展潜力。然而，为了有效地将这些模型整合到临床实践中，需要不断优化和进行伦理监管。

    Nov, 2023

  • 化学 LLM: 一种化学大型语言模型

    ChemLLM 是第一个专门用于化学领域的大型语言模型，通过使用结构化化学知识构建对话系统，能够在化学学科中顺畅交互完成各种任务，包括名称转换、分子标题和反应预测，并在相关数学和物理任务中展现出出色的适应性。

    Feb, 2024