Дерево решений в Matlab

Я видел помощь в Matlab, но они предоставили пример, не объясняя, как использовать параметры в функции classregtree. Любая помощь в объяснении использования "classregtree" с его параметрами будет оценена по достоинству.

11
decision-tree machine-learning matlab

1 ответов

страница документации функции classregtree не требует пояснений...

давайте рассмотрим некоторые из наиболее распространенных параметров модели дерева классификации:

  • x: матрица данных, строки являются экземплярами, cols предсказывают атрибуты
  • y: вектор столбца, метка класса для каждого экземпляра
  • категорический: укажите, какие атрибуты являются дискретным типом (как против непрерывного)
  • метод: производить ли классификацию или дерево регрессии (зависит от типа класса)
  • имена: дает имена атрибутов
  • чернослив: включение / выключение сокращения ошибок
  • minparent/minleaf: позволяет указать минимальное количество экземпляров в узле, если он должен быть дополнительно разделен
  • nvartosample: используется в случайные деревья (рассмотрим K случайно выбранных атрибутов на каждом узле)
  • весом: укажите взвешенные экземпляры
  • стоимостью: укажите матрицу затрат (штраф за различные ошибки)
  • splitcriterion: критерий, используемый для выбора лучшего атрибута при каждом разбиении. Я знаком только с индексом Джини, который является вариантом получения информации критерия.
  • priorprob: явно укажите вероятности предыдущего класса, вместо того, чтобы вычисляться из данных обучения

полный пример, чтобы проиллюстрировать процесс:

%# load data
load carsmall

%# construct predicting attributes and target class
vars = {'MPG' 'Cylinders' 'Horsepower' 'Model_Year'};
x = [MPG Cylinders Horsepower Model_Year];  %# mixed continous/discrete data
y = cellstr(Origin);                        %# class labels

%# train classification decision tree
t = classregtree(x, y, 'method','classification', 'names',vars, ...
                'categorical',[2 4], 'prune','off');
view(t)

%# test
yPredicted = eval(t, x);
cm = confusionmat(y,yPredicted);           %# confusion matrix
N = sum(cm(:));
err = ( N-sum(diag(cm)) ) / N;             %# testing error

%# prune tree to avoid overfitting
tt = prune(t, 'level',3);
view(tt)

%# predict a new unseen instance
inst = [33 4 78 NaN];
prediction = eval(tt, inst)    %# pred = 'Japan'

tree

обновление:

выше classregtree класс устарел и заменен на ClassificationTree и RegressionTree классы в R2011a (см. fitctree и fitrtree функции, новые в R2014a).

вот обновленный пример, используя новые функции / классы:

t = fitctree(x, y, 'PredictorNames',vars, ...
    'CategoricalPredictors',{'Cylinders', 'Model_Year'}, 'Prune','off');
view(t, 'mode','graph')

y_hat = predict(t, x);
cm = confusionmat(y,y_hat);

tt = prune(t, 'Level',3);
view(tt)

predict(tt, [33 4 78 NaN])
34