检验分类器概率的置信度：Evidential Deep Learning（EDL）原理讲解与代码实现

Question

如题所述

Answer 1

本文阐述了Evidential Deep Learning (EDL)在解决Out-of-Distribution (OOD)分类问题中的关键作用，以及如何通过它来衡量模型预测结果的置信度。在传统的分类网络中，模型输出的概率往往不直接反映对样本的置信程度，EDL通过引入证据(evidence)和信念质量(belief mass)的概念，将分类结果的概率扩展为一个概率分布，从而更好地衡量不确定性。

在EDL模型中，一个简单的K分类网络被改造为输出不仅包含类别概率，还包含对这些概率的信任度。通过与Dirichlet分布关联，模型能够适应OOD样本，其证据值随输入样本的OOD程度变化，从而准确地表达“不确定”或“未知”。损失函数的设计是EDL的核心，通过第二类极大似然估计，模型优化的是证据参数对输出概率分布的期望，而非直接的分类误差，这有助于处理样本操作带来的复杂性。

实验部分展示了EDL在处理手写数字旋转问题上的效果，正常输入的不确定性低，而异常输入（如不同风格的图片）的不确定性高，表明模型成功识别了OOD。不同损失函数的选择对模型性能有显著影响，强调了损失函数选择在EDL实践中的重要性。