Jan, 2024

大型语言模型的临床文档动态问答

TL;DR利用大型语言模型 (LLMs) 对临床记录进行动态问答的自然语言接口引入了一种新的方法。我们的聊天机器人通过 Langchain 和基于变压器的 LLMs 实现,允许用户用自然语言查询并从临床记录中获得相关答案。经过利用各种嵌入模型和先进的 LLMs 的实验表明,Wizard Vicuna 具有更高的准确性,尽管计算需求较高。模型优化,包括重量量化,使延迟时间提高了约 48 倍。有希望的结果表明,充分利用临床记录的价值和推进基于 AI 的临床决策的发展还面临一些挑战,如模型幻觉和有限的多样化医疗案例评估。解决这些差距对于释放临床记录的价值和推进基于 AI 的临床决策具有重要意义。