【Python】決定木（分類木）の構築方法｜scikit-learnによる機械学習モデル作成入門

# =================================================
# データ読込
# =================================================

import numpy as np
import pandas as pd
from sklearn import datasets
from sklearn.model_selection import train_test_split

# データロード
iris = datasets.load_iris()

# 説明変数
X = iris.data
X = pd.DataFrame(X, columns=["Sepal Length", "Sepal Width", "Petal Length", "Petal Width"])

# 目的変数
Y = iris.target
Y = pd.DataFrame(Y, columns = ["Species"])

# 学習データとテストデータ分割
X_train,X_test,Y_train,Y_test = train_test_split(X,Y, test_size=0.3, shuffle=True, random_state=3)

# =================================================
# モデル学習
# =================================================

from sklearn.tree import DecisionTreeClassifier

# 決定木インスタンス
tree_model = DecisionTreeClassifier(criterion='gini',               # 不純度の計測指標
                                    splitter='best',                # 各ノードの分割方法
                                    max_depth=None,                 # 決定木の深さの最大値
                                    min_samples_split=2,            # 枝の分岐作成に必要な最低データ数
                                    min_samples_leaf=1,             # 葉ノードの作成に必要な最低データ数
                                    min_weight_fraction_leaf=0.0,   # 各葉ノードに必要なデータの割合の最小値
                                    max_features=None,              # 分割時に利用する特徴数の最大値
                                    random_state=None,              # 乱数シード
                                    max_leaf_nodes=None,            # 作成する葉ノードの最大値
                                    min_impurity_decrease=0.0,      # ノードの分割実行するための不純度の最小減少度
                                    class_weight=None,              # 各クラスラベルに対する重み
                                    ccp_alpha=0.0                   # コスト複雑度枝刈りのパラメータ
                                   )

# モデル学習
tree_model.fit(X_train,Y_train)

pip install graphviz

# =================================================
# 可視化
# =================================================

import graphviz
from sklearn import tree

# 可視化設定
viz = tree.export_graphviz(tree_model,                                      # 決定木モデル           
           feature_names=X_train.columns.tolist(),                          # 説明変数項目名
           class_names=["Iris-setosa","Iris-versicolor","Iris-virginica"],  # 正解ラベル名
           filled=True,                                                     # 枠内の色塗り有無
                               )

# グラフ描画
graph = graphviz.Source(viz, format="png") 
graph

# =================================================
# 可視化
# =================================================

from dtreeviz.trees import *

# 可視化設定
viz = dtreeviz(tree_model,                                                        # 決定木モデル
                X_train,                                                          # 説明変数（dataframe形式）
                Y_train["Species"],                                               # 正解ラベル(Series形式)
                feature_names = X_train.columns.tolist(),                         # 説明変数項目名
                target_name = "Species",                                          # 正解ラベル項目名 
                class_names = ["Iris-setosa","Iris-versicolor","Iris-virginica"]  # 正解ラベル名
)

# 可視化
display(viz)

# =================================================
# 推論
# =================================================

Y_pred_tree = tree_model.predict(X_test)

# 出力
print(Y_pred_tree)

# 出力イメージ
# [0 0 0 0 0 2 1 0 2 1 1 0 1 1 2 0 1 2 2 0 2 2 2 1 0 2 2 1 1 1 0 0 2 1 0 0 2 0 2 1 2 1 0 0 2]

import numpy as np
from sklearn.metrics import accuracy_score, confusion_matrix

# 推論
Y_pred_tree = tree_model.predict(X_test)

# 混合行列
cf_mat = confusion_matrix(Y_test, Y_pred_tree)

# 出力
print(f'正解率: {accuracy_score(Y_test, Y_pred_tree)}')
print('混合行列')
print(cf_mat)

# 出力イメージ
# 正解率: 0.978
# 混合行列
# [[17  0  0]
#  [ 0 13  1]
#  [ 0  0 14]]