自监督上下文语言表征用于放射学报告，以提高通信紧急性识别

MMDec, 2019

自监督上下文语言表征用于放射学报告，以提高通信紧急性识别

Self-Supervised Contextual Language Representation of Radiology Reports to Improve the Identification of Communication Urgency

PDF

Xing Meng, Craig H. Ganoe, Ryan T. Sieberg, Yvonne Y. Cheung, Saeed Hassanpour

TL;DR本文利用 BERT 模型在无标注大语料库中预训练生成上下文表示，进而构建医学无标注文本的自监督学习模型提高判别医学报告的信息提示等级，并取得了显著性能优于 Word2vec 模型的效果。

Abstract

machine learning methods have recently achieved high-performance in biomedical text analysis. However, a major bottleneck in the widespread application of these methods is obtaining the required large amounts of

machine learning biomedical text analysis self-supervised learning bert radiology reports

发现论文，激发创造

自主学习的文本视觉框架用于自动脑部异常检测

通过利用神经放射学报告中丰富的信息，我们提出了一个自监督的文字 - 视觉框架，通过对脑部 MRI 扫描进行无监督学习，检测临床相关的异常，为自动分类、自动分级等应用提供支持。

May, 2024

自动构建放射学报告的集成方法

本研究提出了一种基于文本属性的整合方法，包括三个模型：聚焦句模型、周围上下文模型和格式 / 布局模型，采用双向 LSTMs 和句子编码来获取上下文，结合多个特征和报告结构进行自动标注，取得了相对于其他方法来说更好的 97.1% 精度。

Oct, 2020

一种新型的协作自监督学习方法，适用于放射组学数据

本文提出了一种新型的协作自监督学习方法，探索兴趣区域之间的潜在病理或生物关系以及主体之间的相似性和差异性信息，无需大量的标记数据即可从辐射组学数据中学习准确的特征表示，进而提高计算机辅助疾病诊断效果。实验结果表明，该方法在分类和回归任务上优于现有的其他自监督学习方法，并具有大规模无标签数据进行自动疾病诊断的潜在优势。

Feb, 2023

多语言结构化放射学报告的知识图谱嵌入

我们引入了一种新颖的轻量级基于图的嵌入方法，特别适用于放射学报告，通过多语言 SNOMED 临床术语知识库连接报告中的医学术语，揭示了临床术语之间的潜在关系，实现了更好地理解和临床准确性的表示，而不依赖于大规模预训练数据集。我们展示了这种嵌入方法在 X 光报告的疾病分类和图像分类两个任务上的应用，并且相较于基于 BERT 的模型，在体积和训练数据需求方面要小得多。同时，我们展示了图嵌入方法如何利用跨模态知识传递，在不同语言之间具有可用性。

Sep, 2023

CheXbert: 利用 BERT 结合自动标注器和专家注释实现准确放射学报告标注

本文介绍了一种基于 BERT 的医学图像报告标注方法，利用了可用规则系统的规模和专家注释的质量，经过预训练和微调得到的 CheXbert 模型，在胸透数据集上表现优异，超过了以往最好的规则系统，成为该领域最先进技术。

Apr, 2020

使用注意力模型自动标注 MRI 扫描放射学报告（ALARM）

本文介绍了一种基于 Transformer 网络的医学影像分类方法，通过自动标注专家医学报告中的图像标签，克服了大规模数据集标注的困难，其表现相当于专家放射科医师，高于专业医生，该方法可行性很高，并提供了在线代码以帮助研究人员标记自己的 MRI 数据集以供医学应用。

Feb, 2020

利用文本语义改进生物医学视觉 - 语言处理

本文介绍了一种基于语义模型的对比学习方法，该方法在生物医学领域的文本 - 语言建模中取得了目前最先进的结果，利用该方法可以更好地理解医学图像和报告。

Apr, 2022

病变定位的多模态自监督学习

利用图像和诊断报告的多模态深度学习在医学影像诊断领域取得了显著进展，尤其在缺乏足够注释信息的辅助诊断方面具有强大的能力，然而，没有详细位置注释的准确定位疾病仍然是一个挑战，现有的方法已尝试利用局部信息实现细粒度语义对齐，但其在提取综合上下文内的细粒度语义能力有限，为解决这一问题，我们提出了一种新的方法，将文本报告中的完整句子作为局部语义对齐的基本单元，我们的方法结合了胸部 X 射线图像和相应的文本报告，在全局和局部层面进行对比学习，我们的方法在多个数据集上取得的领先结果证实了其在病灶定位任务中的有效性。

Jan, 2024

RadLing：面向高效放射学报告理解

本文介绍了 RadLing 这一预训练模型，它使用了 500K 个放射学报告作为训练集，并针对放射学领域进行了微调，使其在细化调整任务中取得了与最先进结果相当的性能。本文的主要贡献在于知识感知遮蔽，这是一种通过遮蔽单词来注入知识的分类知识支持的预训练任务。此外，本文还介绍了一种知识库辅助的词汇扩展方法，以适应放射学领域的通用分词词汇。

Jun, 2023

当放射学报告生成遇见知识图谱

本文介绍了使用预构建图嵌入模块（图卷积神经网络建模）来辅助放射图像报告生成的方法，该方法可以对多种疾病发现进行专门的特征学习并建立它们之间的关系，同时提出了用于医学图像报告的新的评估指标，并在公开数据集（IU-RR）上展示了该方法的优异性能。

Feb, 2020