多模态机器学习结合面部图像和临床文本,提供罕见遗传疾病的诊断
本文研究了利用 iResNet with ArcFace 替代过时的 GestaltMatcher DCNN,采用不同的面部识别数据集进行转移学习,提出测试时增强和模型集成方法,以改进对不可见超稀有疾病的诊断精度,最后提出的集成模型在识别可见和不可见疾病方面达到了最先进的性能。
Nov, 2022
本文提出了一种新的不完全多模态数据整合方法,利用变压器和生成对抗网络,利用辅助模态数据来提高单模态模型的性能,并将其应用于预测阿尔茨海默病的认知退化和疾病结果。
May, 2023
本研究提出了 MM-GTUNets,一种基于图变换器的多模态图深度学习(MMGDL)框架,用于大规模脑疾病预测,并通过验证在 ABIDE 和 ADHD-200 两个公共多模态数据集上证明了其优越性能。
Jun, 2024
通过创新的多模态深度学习模型,本文旨在深度整合医学图像和临床报告等异构信息。使用卷积神经网络提取高维特征,捕捉关键视觉信息;利用双向长短时记忆网络结合注意机制,在临床报告文本中进行深度语义理解,准确捕捉与疾病相关的关键陈述。通过设计的多模态融合层,有效实现图像和文本的联合表征学习。实证研究中,利用大型医学图像数据库和相应的临床报告进行模型训练和验证,实验结果明显展示了多模态深度学习模型在疾病分类、损伤定位和临床描述生成方面的显著优越性。
May, 2024
机器学习在医疗人工智能系统中的应用,从传统和统计方法转向深度学习模型甚至最近的生成模型。近年来,发现了支持多模态数据集成的广泛可用的深度学习架构,尤其是针对图像的。将多种模态融入到这些模型中是一个蓬勃发展的研究课题,提出了独特的挑战。本文讨论了针对医学基于图像的临床决策支持模型的多模态人工智能的五大挑战(表示、融合、对齐、翻译和协同学习),并调查了近期解决这些挑战的方法。我们最后讨论了该领域的未来,并提出了在成功的临床模型及其在临床环境中的转化方面应进一步阐明的方向。
Nov, 2023
从全幻灯图像中预测基因突变对于癌症诊断至关重要。本研究设计了一种生物知识增强的 PathGenomic 多标签 Transformer,通过构建基因优先级和基因突变预测模块,提高了预测性能,实验证明该方法优于现有最先进技术。
Jun, 2024
这篇论文综述如何运用多模态深度学习技术提取和汇总多模态信息,以实现更客观、定量化的计算机辅助临床决策,并探讨了其在疾病诊断和预后中的应用、性能表现、挑战和未来发展方向。
Mar, 2022