使用 BERT 模型直接从放射学报告映射到图像标签的方法，优于现有的医学报告标签方法，与放射科医生标注的胸部 X 光图像的平均 F1 分数为 0.12 至 0.21。

Feb, 2021

本研究探索了使用基于规则的标签机器人进行弱监督的深度学习标签预测模型的潜力，并提出了一种深度学习的 CheXpert 标签预测模型，该模型在基于规则的德国 CheXpert 模型标记的报告上进行了预训练，并在少量手动标记的报告数据集上进行了微调。结果表明，本方法的有效性显著优于基于规则的模型，并强调了即使在稀疏数据场景下，采用深度学习模型的好处和规则标记器作为弱监督工具的用处。

Jun, 2023

本研究旨在开发一种算法，用于自动从德国胸腔放射学报告中提取用于 X 光分类模型注释的标签，并基于 CheXpert 架构设计了一个自动标注提取模型，并创建了一个基于 Web 的注释界面以进行迭代改进，结果表明，自动标签提取能够减少手动标注的时间并提高整体建模性能。与手动标记数据相比，使用自动提取标签训练的模型表现出了很高的竞争力，并且强大地优于使用公开数据训练的模型。

Jun, 2023

通过使用设计精心的提示，我们展示了 GPT 作为熟练标注器的潜力。利用只有 GPT 标记的数据，我们训练了基于 BERT 的标注器 CheX-GPT，其操作速度更快、更高效。为了评估标注器的性能，我们引入了一个公开可用的专家标注测试集 MIMIC-500，包含来自 MIMIC 验证集的 500 个案例。我们的研究结果证明了 CheX-GPT 不仅在标注准确性上优于现有模型，而且在效率、灵活性和可扩展性方面也表现出色，得益于我们引入的 MIMIC-500 数据集进行强大的基准测试。代码和模型可以在此链接找到。

Jan, 2024

本文介绍了一种基于 Transformer 网络的医学影像分类方法，通过自动标注专家医学报告中的图像标签，克服了大规模数据集标注的困难，其表现相当于专家放射科医师，高于专业医生，该方法可行性很高，并提供了在线代码以帮助研究人员标记自己的 MRI 数据集以供医学应用。

Feb, 2020

本文提出了一种基于模板的方法，通过使用多标签图像分类器，变换器模型和 BERT 多标签文本分类器，还有规则系统从放射学图像中生成放射学报告，并在实验中通过 IU Chest X-ray 和 MIMIC-CXR 数据集表现出比现有技术模型更好的性能。

Jun, 2023

本文利用 BERT 模型在无标注大语料库中预训练生成上下文表示，进而构建医学无标注文本的自监督学习模型提高判别医学报告的信息提示等级，并取得了显著性能优于 Word2vec 模型的效果。

Dec, 2019

该研究提出了一种专门用于生成中文胸部 X 射线报告的疾病标定器，该标定器利用双 BERT 架构处理诊断报告和临床信息并基于疾病和身体部位的关联构建了一个分层标签学习算法，从而提高了文本分类性能。利用该疾病标定器，建立了一个包含 51,262 个报告样本的中文胸部 X 射线报告数据集。最后，对一部分专家注释的中文胸部 X 射线报告进行了实验证明了该疾病标定器的有效性。

Mar, 2024

提出了一种基于深度学习技术的生成式编码解码模型，通过对大量胸部 X 光图像进行预先训练并提取医疗概念，结合词级别的注意力机制，成功生成精准较为自然的放射学报告。

Jul, 2019

通过提取高质量的事实陈述来改善文本编码器的表示并提高在各种下游任务中的性能，研究文章介绍了一种针对医学领域等专业领域中表征学习的新颖两阶段框架。

Jul, 2024