理解不同SHAP方法的假设

2024-09-26 22:52:08 发布

您现在位置:Python中文网/ 问答频道 /正文

我感兴趣的是将SHAP值应用到我在机器学习中所做的一些工作中,并注意到在github页面上可以选择许多不同的方法:https://github.com/slundberg/shap

我有一个神经网络模型,据我所知,我可以使用这些函数:DeepExplainer、GradientExplainer或KernelExplainer。我知道DeepExplainer是基于DeepLift的,GradientExplainer是基于综合梯度的,但我真的很难找到每种方法所做假设的清晰轮廓是否有人能够澄清每种方法的假设,或为我指出这方面的来源方向?

明确地说,我不是在谈论每一个的具体速度,我在考虑以下几点:它们中有没有假设模型的某些属性?他们是否假设输入是独立的?哪一种适用于一个热编码变量和连续变量的混合?简言之,我找不到这方面的明确参考,甚至找不到GradientExplainer算法正在做什么的明确参考


Tags: 方法函数https模型githubcom机器神经网络

热门问题