keras的功能重要性

Question

我有以下问题。我用Keras建立了一个神经网络。这是我数据帧的一部分。 我的数据帧看起来像：

    Id          MainCl   Class     Other Options...
    1016178069  0        30        1              
    1016178012  0        25        0              

我的结果向量给出了结果被分类的概率。 示例：

^{pr2}$

现在是主要问题： 有没有一种方法可以获得对结果负责的特性的最大概率？ 比如：

Prob_isClass_A    Prob_isClass_b      Most_Probability_Reason    Probability
0.756686          0.243314            Main_CL_Feature            0.75
0.999843          0.000157006         Class_Feature              0.8
0.999818          0.000182159         Other_Option_Feature       0.7

Answer 1

如果我理解你的问题，你想要的是每个样本的第一个特征重要性。。。在

keras不支持功能重要性。你必须在树模型中寻找类似的东西。此外，你还需要更多的东西，据我所知，还没有实现，也可能不会实现。在

Answer 2

我在Feature Importance Chart in neural network using Keras in Python回答了一个相关的问题。我在这里能看到的唯一区别是，与其寻找集成度量的特征重要性的解释，不如希望每个单独预测的特征重要性。在本例中，同一个包ELI5具有可以解释eli5.sklearn.explain_prediction中单个预测的函数。我还没有必要使用这个功能，但是那里的文档看起来很简单。在