在训练过程中确保RandomForestClassifier选择一个变量

Question

这是一个有点菜鸟的问题。在

我想用sklearn中的RandomForestClassifier来训练Random Forest。我有一些变量，但是从这些变量中，我希望算法在它训练的每一棵树中确定地选择一个变量（我们称之为SourceID）。在

我该怎么做？我在分类器中看不到任何参数在这种情况下会有帮助。在

任何帮助都将不胜感激！ 蒂娅。在

编辑

下面是我的场景。。在

如果老师在Concept A上布置作业，我必须预测下一个可能的作业概念。下一个分配的概念将严重依赖于已经分配的Concept A。例如，在指定“牛顿第一运动定律”之后，“牛顿第二运动定律”很有可能被指定。通常，在Concept A之后分配的概念的选择是有限的。根据过去的数据，我想在分配Concept A之后预测最佳可能的选项。在

如果我让random forest随机挑选变量，那么会有一些树没有Concept A的变量，在这种情况下，预测可能没有多大意义，这就是为什么我要强制选择这个变量。更好的是，如果这个变量被选为每个树中要拆分的第一个变量，那就更好了。在

这说明问题了吗？random forest根本不是这份工作的候选人吗？在

Answer 1

我不相信scikit现在有办法了。您可以使用max_features=None这将删除所有特征选择的随机性。在

如果可以切换包，R的Ranger（https://cran.r-project.org/web/packages/ranger/ranger.pdf）有选项拆分.select.weights和always.split.variables这可能是您要找的。定义随机选择的概率，或总是在随机选择之外包括这些特征。在

这违背了随机森林的总体设计，降低了随机性，进而削弱了算法的方差约简。你应该知道很多关于你的数据和选择这个选项的问题。正如@Michal所暗示的，在这里小心行事。在