如何对GridSearchCV中管道中的TransformedTargetGressor中设置为transformer param的ScikitLearn PowerTransformer()使用逆变换

2024-06-28 19:21:45 发布

您现在位置:Python中文网/ 问答频道 /正文

我使用以下GridSearchCV训练了一组线性回归模型

MAX_COLUMNS=list(range(2, len(house_df.columns)))

X = house_df.drop(columns=['SalePrice'])
y = house_df.loc[:, 'SalePrice']

column_list = MAX_COLUMNS

# Box-cox transform the target 
reg_strategy = TransformedTargetRegressor()
bcox_transformer = PowerTransformer(method='box-cox')


model_pipeline = Pipeline([("std_scaler", StandardScaler()),
                           ('feature_selector', SelectKBest()),
                           ('regress', reg_strategy)])


parameter_grid = [{'feature_selector__k' : column_list,
                   'feature_selector__score_func' : [f_regression, mutual_info_regression],
                   'regress__regressor' : [LinearRegression()],
                   'regress__regressor__fit_intercept' : [True],
                   'regress__transformer' : [None, bcox_transformer]}]


score_types = {'MSE' : 'neg_mean_squared_error', 'r2' : 'r2'}

gs = GridSearchCV(estimator=model_pipeline, param_grid=parameter_grid, scoring=score_types, refit='MSE', cv=5, n_jobs=5, verbose=1)

gs.fit(X, y)

PATH = './datasets/processed_data/'
gridsearch_result_filename = 'pfY_np10_nt2_rfS_ct0_8_st1_orY_ccY_LR1_GS.pkl'
full_path = PATH + gridsearch_result_filename
with open(full_path, 'wb') as file:
    pickle.dump(gs, file)

然后,我加载经过训练的GridSearch,并可以使用最佳估计器进行预测,如下所示:

with open(MODEL_PATH, 'rb') as file:
    gs_results = pickle.load(file)


predictions = gs_results.predict(test_df)

我面临的问题是,由于在GridSearch期间应用了Box-Cox变换,因此我所有的预测都在Box-Cox变换分布域中(大值)。

我需要在预测中使用PowerTransformers逆变换()方法,但我不确定如何访问它。

我可以得到整个管道的最佳估计像这样

gs_results.best_estimator_

然后,我可以访问管道内的TransformedTargetRecessor,如下所示:

TransformedTargetRegressor

更进一步,我们一路来到TransformedTargetGressor内部的PowerTransformer,如下所示:

PowerTransformer

在这里做了之后,我愚蠢地认为我已经做到了我需要的地方,并且只需要使用PowerTransformers逆变换方法来进行预测,这些预测将回到原来的单位。然而,令人失望的是,出现了一个错误:

Not Fitted

错误似乎很明显,告诉我我不能使用逆变换方法,因为PowerTransformer不适合

这就是我被难倒的地方。在GridSearch过程中,PowerTransformer显然是合适的,但说它不合适是没有意义的

这让我觉得我只是错误地访问了PowerTransformer,这是我当前的问题

根据上面的设置,有人知道对我的预测进行逆变换的正确方法吗,这样它们就可以使用原始单位而不是Box-Cox分布单位了?

为了这个,我一直把头撞在墙上,到处寻找类似的问题。提前非常感谢

-布莱登


Tags: path方法boxgsdfselectorfeaturelist
1条回答
网友
1楼 · 发布于 2024-06-28 19:21:45

here非常相似,属性transformer是不适合的初始化属性;您需要fittedtransformer_属性

然而,我不确定为什么predict没有做你想做的事情;表示{}的{a2}表示

Predict using the base regressor, applying inverse.

The regressor is used to predict and the inverse_func or inverse_transform is applied before returning the prediction.

相关问题 更多 >