深度神经网络在医学图像分类中的校准理解

Sep, 2023

深度神经网络在医学图像分类中的校准理解

Understanding Calibration of Deep Neural Networks for Medical Image Classification

Abhishek Singh Sambyal, Usma Niyaz, Narayanan C. Krishnan, Deepti R. Bathula

TL;DR在医学图像分析领域，确保高准确性不仅是重要的，确保有良好校准的预测也至关重要。通过提供模型的确定性洞察，识别需要关注的情况并建立对其预测的信任，深度神经网络的置信度在可解释性方面起关键作用。我们进行了一项全面的实证研究，探索了不同训练方式下模型的性能和校准。研究揭示了权重分布和学习表示的相似性等因素与模型校准趋势的相关性，并强调将自监督学习方法融入医学图像分析中以改善性能和校准的优势。

Abstract

In the field of medical image analysis, achieving high accuracy is not enough; ensuring well-calibrated predictions is also crucial. Confidence scores of a deep neural network play a pivotal role in explainabilit

medical image analysis deep neural network model calibration supervised training self-supervised learning

发现论文，激发创造

深度学习中的校正：现有技术综述

深度神经模型校准在构建可靠的安全关键应用的人工智能系统中起着重要作用。本文回顾了最新的校准方法，并对它们进行了原理解析。

Aug, 2023

医学成像分类神经网络的改进可训练校准方法

本文提出了一种新的校准方法，旨在提高神经网络在医学领域图像分类任务中的不确定性量化能力，该方法基于期望校准误差作为量化神经网络不确定性的公共度量，可以作为辅助损失项轻松地集成到任何分类任务中，从而显著降低分类误差。

Sep, 2020

现代神经网络的校准

深入实验和分析，提出了温度缩放法的简单有效性，可以解决现代神经网络中分类器的置信度校准问题。

Jun, 2017

重新审视现代神经网络的校准

本文研究了神经网络模型的预测不确定性及其校准问题，并发现不使用卷积层的最新模型的校准性能最好，模型大小和预训练量并不能完全解释这些差异，表明模型架构是影响校准性能的主要因素。

Jun, 2021

深度学习中的一致置信现象及其对校准的影响

本文研究了深度神经网络模型校准方面的现有问题，并发现这类模型存在大量 “几乎确定” 置信度，导致常常过于自信。同时，文章提出可采用 Mixup 数据增强技术中的修改损失函数的方法来解决此类问题。

Jun, 2023

神经网络的校准

该论文研究了神经网络中置信度校准的问题，并提供了校准方法的经验比较，分析了可视化和标量测量评估模型置信度校准的不同方法，并对基于后处理或对训练进行更改的现代校准技术进行了评估，实验结果覆盖了各种数据集和模型，比较了不同标准下的校准方法。

Mar, 2023

深度学习中的校准度量

本文探讨了机器学习分类器中出现的过度置信和欠置信问题，介绍了衡量分类器置信度的度量标准 —— 准确率校准度，以及该度量标准不足的缺点；进而进行了一项全面的实证研究，并开源了一种度量方法的库。实证研究发现，不同的度量标准对于分类器校准度的优化与评价可能会带来截然不同的结论。

Apr, 2019

医疗 AI 校准：朝着可靠且可解释的深度预测模型

本篇论文提出了一种基于置信度校准的学习方法，能够同时满足模型可靠性和可解释性，通过皮肤镜图像的病变分类问题验证了该方法的有效性，同时还提出了一种全面评估模型可靠性的机制 - Reliability Plots。

Apr, 2020

关于组织切片级别分类神经网络的校准

深度神经网络在数字病理学中的全切片图像中预测某些生物标志物时表现出有希望的分类性能，但网络输出概率的校准经常没有得到评估。在医学环境中，通过提供可靠的置信度评分来传达不确定性具有很高的相关性。在这项工作中，我们比较了三种神经网络结构，这些结构将修补水平上的特征表示与幻灯片级别的预测相结合，以评估它们的分类性能并评估其校准性。作为幻灯片级别分类任务，我们选择了结直肠癌组织切片中的微卫星不稳定性的预测。我们观察到，Transformers 在分类性能和校准方面表现出良好的结果。在对单独数据集进行分类性能评估时，我们观察到 Transformers 具有最好的泛化能力。对可靠性图进行调查能够提供对期望校准误差指标的额外见解，我们观察到特别是 Transformers 会将输出概率推至极值，这导致过于自信的预测。

Dec, 2023

多头多损失模型校准

提高机器学习模型的预测准确性和可靠性，本文提出了一种简化深度集成模型的方法，通过不同的误差计算方法来训练多个线性分类器，达到与成本高昂的深度集成模型相同的校准能力和良好的分类性能，适用于组织病理图像和内镜图像的分类应用。

Mar, 2023