在 gridsearchcv 期间打印网格搜索中使用的参数

Question

我正在尝试在执行网格搜索时查看 gridsearchcv 中的自定义评分函数中当前正在使用的参数。理想情况下，这看起来像：编辑：为了澄清我希望使用网格搜索中的参数，因此我需要能够在函数中访问它们。def fit(X, y):     grid = {'max_features':[0.8,'sqrt'],            'subsample':[1, 0.7],            'min_samples_split' : [2, 3],            'min_samples_leaf' : [1, 3],            'learning_rate' : [0.01, 0.1],            'max_depth' : [3, 8, 15],            'n_estimators' : [10, 20, 50]}       clf = GradientBoostingClassifier()    score_func = make_scorer(make_custom_score, needs_proba=True)    model = GridSearchCV(estimator=clf,                          param_grid=grid,                          scoring=score_func,                         cv=5)def make_custom_score(y_true, y_score):    '''    y_true: array-like, shape = [n_samples] Ground truth (true relevance labels).    y_score : array-like, shape = [n_samples] Predicted scores    '''    print(parameters_used_in_current_gridsearch)    …    return score我知道我可以在执行完成后获取参数，但是我试图在代码执行时获取参数。

Answer 1

如果您需要在网格搜索步骤之间实际执行某些操作，则需要使用一些较低级别的 Scikit-learn 功能编写自己的例程。

GridSearchCV在内部使用ParameterGrid该类，您可以对其进行迭代以获得参数值的组合。

基本循环看起来像这样

import sklearn

from sklearn.model_selection import ParameterGrid, KFold

clf = GradientBoostingClassifier()

grid = {

    'max_features': [0.8,'sqrt'],

    'subsample': [1, 0.7],

    'min_samples_split': [2, 3],

    'min_samples_leaf': [1, 3],

    'learning_rate': [0.01, 0.1],

    'max_depth': [3, 8, 15],

    'n_estimators': [10, 20, 50]

}

scorer = make_scorer(make_custom_score, needs_proba=True)

sampler = ParameterGrid(grid)

cv = KFold(5)

for params in sampler:

    for ix_train, ix_test in cv.split(X, y):

        clf_fitted = clone(clf).fit(X[ix_train], y[ix_train])

        score = scorer(clf_fitted, X[ix_test], y[ix_test])

        # do something with the results