SHAP

SHAP（SHapley Additive exPlanations）是一种用于解释任何机器学习模型输出的方法。它利用博弈论中的概念，为每个特征分配一个表示其对预测贡献的值。这些值被称为 SHAP 值，它们指示了在特定实例中每个特征对模型输出的贡献程度，从而有助于更深入地理解模型的决策过程。