Самый простой способ получить имена функций после запуска SelectKBest в Scikit Learn

Я хотел бы сделать контролируемое обучение.

до сих пор я знаю, чтобы сделать контролируемое обучение всем функциям.

тем не менее, я хотел бы также провести эксперимент с K лучшими функциями.

Я прочитал документацию и нашел в Scikit learn метод SelectKBest.

к сожалению, я не уверен, как создать новый фрейм данных после поиска этих лучших функций:

предположим, я хотел бы провести эксперимент с 5 лучшими характеристиками:

from sklearn.feature_selection import SelectKBest, f_classif
select_k_best_classifier = SelectKBest(score_func=f_classif, k=5).fit_transform(features_dataframe, targeted_class)

теперь, если бы я добавил следующую строку:

dataframe = pd.DataFrame(select_k_best_classifier)

я получу новый фрейм данных без имен функций (только индекс, начинающийся с 0 до 4).

Я должен заменить его на:

dataframe = pd.DataFrame(fit_transofrmed_features, columns=features_names)

мой вопрос в том, как создать список features_names??

Я знаю, что я должен использовать: select_k_best_classifier.get_support()

который возвращает массив логических значений.

истинное значение в массиве представляют индекс в правом столбце.

как я должен использовать этот логический массив с массивом всех имен функций, которые я могу получить с помощью метода:

feature_names = list(features_dataframe.columns.values)
17
feature-selection pandas python scikit-learn

4 ответов

Вы можете сделать следующее :

mask = select_k_best_classifier.get_support() #list of booleans
new_features = [] # The list of your K best features

for bool, feature in zip(mask, feature_names):
    if bool:
        new_features.append(feature)

затем измените название своих функций:

dataframe = pd.DataFrame(fit_transofrmed_features, columns=new_features)
12

это сработало для меня и не требует циклов.

# Create and fit selector
selector = SelectKBest(f_classif, k=5)
selector.fit(features_dataframe, target)
# Get idxs of columns to keep
idxs_selected = selector.get_support(indices=True)
# Create new dataframe with only desired columns, or overwrite existing
features_dataframe_new = features_dataframe[idxs_selected]
19

для меня этот код работает отлично и более 'подходящие для Python':

mask = select_k_best_classifier.get_support()
new_features = features_dataframe.columns[mask]
9

следующий код поможет вам найти лучшие функции K с их F-баллами. Пусть X-это фрейм данных pandas, столбцы которого являются всеми объектами, а y-список меток классов.

import pandas as pd
from sklearn.feature_selection import SelectKBest, f_classif
#Suppose, we select 5 features with top 5 Fisher scores
selector = SelectKBest(f_classif, k = 5)
#New dataframe with the selected features for later use in the classifier. fit() method works too, if you want only the feature names and their corresponding scores
X_new = selector.fit_transform(X, y)
names = X.columns.values[selector.get_support()]
scores = selector.scores_[selector.get_support()]
names_scores = list(zip(names, scores))
ns_df = pd.DataFrame(data = names_scores, columns=['Feat_names', 'F_Scores'])
#Sort the dataframe for better visualization
ns_df_sorted = ns_df.sort_values(['F_Scores', 'Feat_names'], ascending = [False, True])
print(ns_df_sorted)
3