自分のブログの記事で、ここも投稿します。
ブログの方が読みやすいと思います。

site: http://kura.gq/machine-learning/decision-tree-python-sklearn/133/05/

課題の目的
Pythonのscikit-learn使て、決定⽊学習モデルを実行します。具体的には、決定⽊学習モデルを習って、デモのアヤメ（iris）データセットを分類して、結果を表示します。

解説
アイリス（iris）データセットとは
アイリスのデータセットはよく知られたデータセットです。sklearnパッケージの中には、このデータセットがあります。「¥sklearn¥datasets¥data¥iris.csv」で見つけました。

このデータセットには、データポイントが150個で、各データポイントには4つの変数があります。AからDまでは、ガクの長さ、ガクの幅、花弁の長さ、花弁の幅ということです。Eは花の種類で、この中で、0はsetosa、1はversicolor、2はvirginicaです。

scikit-learnの機能
scikit-learn のDecisionTreeClassifierは、決定⽊学習モデル使て、データセットに対して分類できるクラスです。入力は「n_samples、n_features」を使用して、「n_samples」はトレーニングサンプルで、「n_features」はクラスラベルです。

例の実装
環境構築
Python3の中に、scikit-learnをインストールします。結果の可視化のため、Graphvizをインストールします。

具体的には、Graphvizはここに(https://graphviz.gitlab.io/download/)ダウンロードして、インストールします。

そして、パッケージのscikit-learn、Graphviz、pydotplusをインストールします。pycharmの場合は、ここまではいいです。

パケージをロード
from sklearn.datasets import load_iris from sklearn import tree import pydotplus import os os.environ["PATH"] += os.pathsep + 'C:¥Program Files(x86)¥Graphviz2.38¥bin¥'
アイリスのデータを読み込み、決定⽊学習モデルを使用してモデルを習って取得します。
iris = load_iris() clf = tree.DecisionTreeClassifier().fit(iris.data, iris.target)
モデルをドットファイルiris.dotに保存します。
with open("iris.dot", 'w') as f: f = tree.export_graphviz(clf, out_file=f)
結果の可視化
dot_data = tree.export_graphviz(clf, out_file=None) graph = pydotplus.graph_from_dot_data(dot_data) graph.write_pdf("iris.pdf")
結果

結果の解説：

X[0]からX[3]までは、ガクの長さ、ガクの幅、花弁の長さ、花弁の幅です。sampleは、このノード上のデータポイントの数です。valueは、このノード上のデータポイントの種類です。例えば、[0, 47, 1]とは、setosaは0個、versicolorは47個、virginicaは1個です。

決定木の意味は、次の例で説明されています。

データポイント一つにとって、もし：
花弁の長さ　＜＝　2.45　は　False、
そして、花弁の幅＜＝　1.75　は　False、
そして、花弁の長さ＜＝　4.85　は　True、
そして、ガクの幅＜＝　3.10　は　True、
このデータポイントはvirginicaです。