面具师在SHAP套装中真正做了什么，并适合他们进行训练或测试？

Question

我一直在尝试使用shap包。我想从我的逻辑回归模型中确定形状值。与TreeExplainer相反，LinearExplainer需要所谓的掩码。这个掩蔽器到底做什么？独立掩蔽器和分区掩蔽器之间的区别是什么

另外，我对测试集中的重要特性感兴趣。然后我是在训练集还是测试集上安装遮罩？下面您可以看到一段代码

model = LogisticRegression(random_state = 1)
model.fit(X_train, y_train)

masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)

explainer = shap.LinearExplainer(model, masker = masker)
shap_val = explainer(X_test)```

Answer 1

Masker类提供了一个背景数据来“训练”解释者。即，在：

explainer = shap.LinearExplainer(model, masker = masker)

您正在使用由masker确定的背景数据（通过访问masker.data属性，您可以看到使用了哪些数据）。您可以阅读更多关于“模型真实性”或“数据真实性”的解释here或here

如上所述，就计算而言，您可以同时执行以下两项操作：

masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)
explainer = shap.LinearExplainer(model, masker = masker)

但从概念上讲，以下内容更有意义：

masker = shap.maskers.Independent(data = X_train)
explainer = shap.LinearExplainer(model, masker = masker)

这类似于通常的train/test范式，在该范式中，您根据训练数据训练您的模型（和解释者），并尝试预测（和解释）您的测试数据