はじめに
この記事では、Rで葉の多い回帰木を描画する際の工夫を記録しておきます。
使用するパッケージは決定木の計算でrpart、描画でpartykitを想定しています。
勉強のため、ご指摘等いただけると助かります。
(参考：partykitのドキュメント https://cran.r-project.org/web/packages/partykit/partykit.pdf)
動機
決定木で分析する際、木をある程度成長させたほうが良い示唆が得られることがあります。
過学習の問題とはうまく付き合う必要がありますが。
決定木の可視化を行うパッケージpartykitは、特に投入変数にカテゴリー変数が含まれる場合にとてもわかりやすいため、私はよく使っています。
ただ回帰木で葉が多いときの出力結果は、時折イマイチなことがあります。
探してもあまり良い記述がなかったため、ここに記録しておきます。
決定木の計算
ここではボストン市の住宅価格(Boston)を用います。
不動産価格を多くの投入変数から説明することを試みます。
データセットの中身は次のページがわかりやすく解説しています。
The Boston Housing Dataset
ライブラリ
library(MASS)
library(rpart)
library(partykit)
実行
>tree <- rpart(medv ~., data=Boston, method='anova')
>print(tree)
n= 506
node), split, n, deviance, yval
* denotes terminal node
1) root 506 42716.3000 22.53281
2) rm< 6.941 430 17317.3200 19.93372
4) lstat>=14.4 175 3373.2510 14.95600
8) crim>=6.99237 74 1085.9050 11.97838 *
9) crim< 6.99237 101 1150.5370 17.13762 *
5) lstat< 14.4 255 6632.2170 23.34980
10) dis>=1.5511 248 3658.3930 22.93629
20) rm< 6.543 193 1589.8140 21.65648 *
21) rm>=6.543 55 643.1691 27.42727 *
11) dis< 1.5511 7 1429.0200 38.00000 *
3) rm>=6.941 76 6059.4190 37.23816
6) rm< 7.437 46 1899.6120 32.11304
12) lstat>=9.65 7 432.9971 23.05714 *
13) lstat< 9.65 39 789.5123 33.73846 *
7) rm>=7.437 30 1098.8500 45.09667 *
決定木が得られました。
可視化
rpartでも可視化できますが、ここではpartykitを使用します。
> plot(as.party(tree))
部屋数（rm）が多いほど価格が高いことがわかります。
この場合はbox chartでもわかりやすいです。
ただし実務上では、よりわかりやすく平均値を表示することがあります。
このためにplot関数にtype='simple'を渡します。
> plot(as.party(tree), type='simple')
重なって見づらくなってしまいました。。
葉を少なくすれば重なりは解消されますがここでは木をある程度成長させる場合を考えます。
修正
さきほどの葉の重なりを解消するため、葉に記載する情報を整理することを考えます。
まず有効数字は幅を取りすぎているため、減らします。
また誤差の出力をやめることでも、スペースを確保できそうです。
無視して良いということではありませんが。
partykitのplotにおいて、tp_argsに値を渡すことで、ターミナルノードの出力を制御できます。
ここでは平均値とN数を、指定した桁数で、それぞれ y = , n = の形で返す関数を渡します。
plot(as.party(tree), type='simple',tp_args = list(FUN = function(info)
c(paste('y = ',format(round(info$prediction, digits=1), nsmall = 1), sep=''),
paste('n = ',format(round(info$n)), sep=''))
))
重なりは解消されました。葉同士の平均値の上下関係も見やすいです。
おわりに
決定木はとても便利ですが、この便利さは結果の解釈の簡単さに起因しています。
よりわかりやすく可視化すれば、自分が見つけた示唆がより他人に伝わると考えています。
より良い方法がありましたら、ご教授いただけると幸いです。