Как использовать TimeSeriesSplit с объектом GridSearchCV для настройки модели в scikit-learn?

Я искал sklearn docs для TimeSeriesSplit и документы для перекрестной проверки но я не смог найти рабочий пример.

Я использую sklearn версии 0.19.

это моя установка

import xgboost as xgb
from sklearn.model_selection import TimeSeriesSplit
from sklearn.grid_search import GridSearchCV
import numpy as np
X = np.array([[4, 5, 6, 1, 0, 2], [3.1, 3.5, 1.0, 2.1, 8.3, 1.1]]).T
y = np.array([1, 6, 7, 1, 2, 3])
tscv = TimeSeriesSplit(n_splits=2)
for train, test in tscv.split(X):
    print(train, test)

выдает:

[0 1] [2 3]
[0 1 2 3] [4 5]

если я попробую:

model = xgb.XGBRegressor()
param_search = {'max_depth' : [3, 5]}

my_cv = TimeSeriesSplit(n_splits=2).split(X)
gsearch = GridSearchCV(estimator=model, cv=my_cv,
                        param_grid=param_search)
gsearch.fit(X, y)

это дает: TypeError: object of type 'generator' has no len()

Я понимаю проблему:GridSearchCV пытается вызвать len(cv) но my_cv является итератором без длина. Однако документы на GridSearchCV состояние я могу использовать

int, генератор перекрестной проверки или итерационный, необязательный

Я пробовал использовать TimeSeriesSplit без .split(X) но это все равно не сработало.

Я уверен, что я упускаю что-то простое, спасибо!!

8
python scikit-learn xgboost

1 ответов

оказывается, проблема была в том, что я использовал GridSearchCV С sklearn.grid_search, который является устаревшим. Импорт GridSearchCV С sklearn.model_selection решить проблему:

import xgboost as xgb
from sklearn.model_selection import TimeSeriesSplit, GridSearchCV
import numpy as np
X = np.array([[4, 5, 6, 1, 0, 2], [3.1, 3.5, 1.0, 2.1, 8.3, 1.1]]).T
y = np.array([1, 6, 7, 1, 2, 3])
tscv = TimeSeriesSplit(n_splits=2)

model = xgb.XGBRegressor()
param_search = {'max_depth' : [3, 5]}

my_cv = TimeSeriesSplit(n_splits=2).split(X)
gsearch = GridSearchCV(estimator=model, cv=my_cv,
                        param_grid=param_search)
gsearch.fit(X, y)

выдает:

GridSearchCV(cv=<generator object TimeSeriesSplit.split at 0x11ab4abf8>,
       error_score='raise',
       estimator=XGBRegressor(base_score=0.5, colsample_bylevel=1, colsample_bytree=1, gamma=0,
       learning_rate=0.1, max_delta_step=0, max_depth=3,
       min_child_weight=1, missing=None, n_estimators=100, nthread=-1,
       objective='reg:linear', reg_alpha=0, reg_lambda=1,
       scale_pos_weight=1, seed=0, silent=True, subsample=1),
       fit_params=None, iid=True, n_jobs=1,
       param_grid={'max_depth': [3, 5]}, pre_dispatch='2*n_jobs',
       refit=True, return_train_score=True, scoring=None, verbose=0)
8