如何正确重塑sklearn分类器predict_proba的多类输出？

Question

我有一个10节课的多节课问题。 使用任何带有predict_proba的sklearn分类器，我得到

(n_classes, n_samples, n_classes_probability_1_or_0)

就我而言(10, 4789, 2)

现在使用二进制分类，我只需要这样做

model.predict_proba(X)[:, 1]

我假设：

pred = np.array(model.predict_proba(X))
pred = pred.reshape(-1, 10, 2)[:, :, 1]

我也会这么做，但订单已经完全关闭了

现在y[:, class]对应于pred[class, :, 1]

我知道我想的形状不对，但不幸的是我看不见

如何正确地重塑它？ 目标是将其用于roc_auc_得分指标 我想要一个(instances, classes_probabilities = 1)的形状

你能帮忙吗？ 提前谢谢你

Answer 1

如果您提到您正在使用MultiOutputClassifier，这将非常有用，因为scikit learn中用于多类的大多数分类器不会返回与您类似的内容，因此使用示例数据集：

import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from sklearn.multioutput import MultiOutputClassifier
from sklearn import preprocessing

lb = preprocessing.LabelBinarizer()

from sklearn.datasets import make_classification
X, y = make_classification(n_samples=500,n_classes=10,n_informative=10,n_clusters_per_class=1)
y = lb.fit_transform(y)

设置分类器

forest = RandomForestClassifier(n_estimators=10, random_state=1)
model = MultiOutputClassifier(forest, n_jobs=-1)
model.fit(X, y)

您无需考虑重塑它，只需拉出以下值：

pred = np.array(model.predict_proba(X))

与您之前所做的一样，这将对应于每一行是一个类，每一列是您的观察值：

pred[:,:,1].shape
(10, 500)

要获得概率，只需转置：

prob1 = pred[:,:, 1].T

prob1[:2]
array([[0.9, 0. , 0. , 0. , 0. , 0. , 0. , 0. , 0. , 0. ],
       [0.1, 0. , 0.1, 0. , 0.7, 0. , 0.1, 0. , 0.1, 0. ]])

与我们实际提取并堆叠的情况相比：

prob2 = np.hstack([i[:,1].reshape(-1,1) for i in model.predict_proba(X)])
array([[0.9, 0. , 0. , 0. , 0. , 0. , 0. , 0. , 0. , 0. ],
   [0.1, 0. , 0.1, 0. , 0.7, 0. , 0.1, 0. , 0.1, 0. ]])