Jul, 2024
误分概率矩阵：有些类别的误分类概率更高
The Misclassification Likelihood Matrix: Some Classes Are More Likely To
Be Misclassified Than Others
TL;DR该研究引入了误分类概率矩阵（MLM）作为一种新的工具，用于在分布转变下量化神经网络预测的可靠性。通过利用softmax输出和聚类技术来测量训练好的神经网络预测与类别中心之间的距离，获得了MLM。通过分析这些距离，MLM提供了模型误分类倾向的全面视图，使决策者能够识别最常见和关键的错误来源。MLM允许根据可接受的风险水平确定模型改进的优先次序和决策阈值。该方法在MNIST数据集上使用卷积神经网络（CNN）和扰动版本的数据集进行了评估，以模拟分布转变。结果显示了MLM评估预测可靠性的有效性，并突出了它在提高神经网络的解释能力和风险缓解能力方面的潜力。这项工作的影响超出了图像分类范围，在自动驾驶车辆等自主系统中具有广泛应用，以改善复杂实际环境中的决策安全性和可靠性。