本文提出使用语义嵌入方法，将原始、杂乱的临床数据直接与下游学习架构耦合，以实现最小化预处理。我们从捕捉和编码数据表示中的复杂数据依赖性的角度考虑这一步骤，而不是在模型中实现，该方法允许使用快速，轻量级和简单的模型进行下游处理，对于没有机器学习专业知识的研究人员非常有用。我们通过三个典型的临床预测任务证明了高度压缩的嵌入数据表示捕获了大量有用的复杂性，尽管在某些情况下，压缩并非完全无损。

Feb, 2018

本研究基于 Transformers 预训练的语言表示学习方法，将特定医学记录中的信息提取，映射到标准词汇中，并在医院死亡预测任务中测试不同输入格式的性能，结果表明使用提取的唯一概念和标准名称作为输入可以获得更好的性能。

Jul, 2022

该研究采用无监督词嵌入和序列特征来提取临床自由文本中的临床概念，通过主动学习框架来进一步减少手动注释工作量，实现了较高的有效性和标注效率节约。

Jul, 2016

这篇论文介绍了利用自然语言处理和表示学习生成医学术语的嵌入，以更好的预测临床决策和患者轨迹，提出了一个新的医学术语表示模型 HiPrBERT，并使用层次结构数据来训练和提高嵌入效果。

Jul, 2023

本研究旨在研究新的语言表示方法（如 ELMo，BERT）在医疗概念提取方面的应用，比较这些方法与传统词嵌入方法（word2vec，GloVe，fastText）的性能表现，并探讨将这些表示方法应用于医疗任务的可能性。研究结果表明，基于大型医学语料库的上下文嵌入方法表现出色，优于现有所有方法。此外，与传统词表示相比，上下文嵌入方法还包含有价值的语义信息。

Feb, 2019

本研究探讨了使用神经网络和迁移学习来学习临床笔记表示以预测临床事件的有效性，并表明了这种方法对于小型数据集表现良好。

May, 2017

本文是一篇关于临床自然语言处理中嵌入表示法的全面调查研究，讨论了各种医学语料库及其特征、医学编码、流行嵌入模型的概述和比较，并将临床嵌入表示划分为九类，并详细讨论每种嵌入类型，探讨临床嵌入表示法中的各种挑战及可能的解决方案和未来研究方向。

Mar, 2019

该研究通过分别使用堆叠去噪自编码器和段落向量模型来学习临床记录中与任务独立的密集患者表示。进而比较疾病分类等监督学习任务中，密集表示相较于传统的词袋模型的表现以及从医学概念中提取特征的表现。结果表明，密集表示在处理少量数据和缺少强语义信息的任务时有优势。最后，提出的新技术有助于强化模型可解释性。

Jul, 2018

本文介绍了一种新的对比表示学习目标和训练方案，针对临床时间序列。该方法能将高维的医疗记录数据投影到低维的封闭单位球上，以编码几何先验，从而学习患者的死亡风险和器官功能，该方法可用于在线患者监测，并可提供临床医生的决策支持和改进下游机器学习任务的性能。

Apr, 2022

我们提出了一种监督对比学习框架，通过学习每个时间步长的患者时间序列的嵌入表示来预测患者在随着观察到更多患者数据的过程中感兴趣结果的可能性变化。我们的方法在预测败血症患者的死亡率（MIMIC-III 数据集）和追踪认知障碍的进展（ADNI 数据集）方面优于现有的基准方法，并且在实验中始终能够正确恢复合成数据集的嵌入结构。

Dec, 2023