提出一种基于神经网络并采用多任务学习方法的信息提取模型，用于同时提取医学实体和否定词，该模型在低资源情况下使用基于条件 softmax 的共享解码器，实现了在 2010i2b2/VA 挑战数据集和专有的医学数据集上最先进的 NER 和否定检测效果。

Dec, 2018

本研究旨在探究如何利用医疗自然语言处理技术，将临床文本与结构化临床数据相结合，建立多模态神经网络模型，实现对重症监护室患者住院死亡风险的预测。研究结果显示，相较于基准模型，本模型的 AUC 值提高了 2%。

Nov, 2018

本研究运用新的注释框架拟定临床实体抽取的评估标准，并发现现有的医学词汇一致性、数据标签限制、评估技术瓶颈等问题仍需要解决，因此提出了解决方案来推动临床实体识别和标准化的发展。

Jul, 2020

本文实证展示了预训练语言模型在多语言跨领域少样本学习任务中的交叉语言迁移特性，并将其应用于解决缺乏数据和真实世界挑战的混合代码（西班牙语 - 加泰罗尼亚语）临床笔记：保护个人隐私信息的命名实体识别。

Apr, 2022

临床试验结果预测的多模态融合专家模型（LIFTED）通过将各种方式的数据转化为自然语言描述，再利用统一的噪声抵抗编码器提取信息，进一步利用稀疏的专家模型优化表示，通过动态集成不同方式的表示进行预测，有效提升临床试验结果预测性能。

Feb, 2024

通过研究多语言神经网络模型，使用深度学习，如基于 Transformer 的结构，我们在临床文本机器翻译方面进行了调查。此外，为了解决语言资源不平衡问题，我们还使用基于大规模多语言预训练语言模型（MMPLMs）的迁移学习方法进行了实验。在临床案例（CC）、临床术语（CT）和本体概念（OC）等三个子任务上的实验结果表明，我们的模型在 ClinSpEn-2022 共享任务中的英语 - 西班牙语临床领域数据中表现出了最佳水平。此外，基于专家评估的人工评估结果显示，小型预训练语言模型（PLM）在临床领域微调中以大幅度优于其他两个超大型语言模型，这是该领域前所未有的发现。最后，迁移学习方法在我们的实验设置中运行良好，使用 WMT21fb 模型适应了预训练阶段在 WMT21fb 中未见的西班牙语语言空间，这值得进一步探索临床知识转化方面，例如研究更多语言。这些研究结果可以为特定领域的机器翻译开发提供一些启示，尤其是在临床和医疗领域。在我们的工作基础上可以开展进一步的研究项目，以改进医疗文本分析和知识转化。

Dec, 2023

本研究介绍了一种使用多模态线索（如分子结构）帮助模型学习实体（蛋白质）的多组学生物信息的新颖框架，以图形为基础的多模态学习机制利用 GraphBERT 模型编码了文本和分子结构信息，并利用不同模态的基础特征进行端到端的学习。在生物医学领域的蛋白质相互作用任务中，我们的提出的广义方法发现受到了领域特定模态的额外获益。

Jul, 2021

本文通过一系列实验和详细的误差分析，证明了参数初始化的迁移学习和参数共享的多任务学习可以帮助神经分类模型在高度倾斜关系分布上泛化。此外，我们演示了如何利用两个不同关系集合上的双重注释来提高神经分类器的整体准确性和 “F1” 得分，特别是在不太频繁但更难的关系上。

Sep, 2018

通过学习实体的同义词对，我们提出了一种用于临床文本标准化的方法，通过关联多个术语，从而显著减少训练数据和资源消耗，并引入了基于上下文和无上下文重排序技术进行实体消岐。在最大的 UMLS 标注数据集 Medmentions 上，我们的方法表现与现有的零样本和远程监督实体链接技术相当，在没有基于领域的训练的情况下。最后，我们证明了单纯的检索性能可能不足以作为评估指标，并引入了一种基于文章的定量和定性分析，揭示了实体链接方法的进一步洞察。

May, 2024

使用机器学习自动识别临床试验结果具有加快医疗决策所需证据获取的潜力，但先前研究认为缺乏训练语料库是结果检测任务面临的挑战。本文介绍了一个专家注释的临床结果数据集 EBM-COMET，可以在无关于任意结果分类的前提下，使用最近发布的分类法将结果标准化，通过使用多种预训练的语境化表示方法和一个基于临床信息的 Part-Of-Speech 嵌入加权损失函数的神经模型提取结果，本文取得了 81.5% F1 的最佳模型表现，超越了原 EBM-NLP 数据集的领先成绩。

Feb, 2022