決定木とは？データから「違いを生む条件」を見つける方法

データ分析をしていると、単純に「全体としてどういう傾向があるのか」だけでなく、

• どんな人ほど解約しやすいのか
• どんな顧客ほど満足度が高いのか
• 売上が高くなるのはどのような条件のときか
• どの変数が結果の違いに大きく関係しているのか

といったことを知りたくなることがあります。

こうした問いに対しての答えをデータから探索するときに便利なのが、決定木です。

決定木は、データをいくつかの条件によってグループに分けていきながら、目的となる変数（例えば、解約、満足度、など）における値の違いを説明するための変数を見つけ出したり、そうした関係を使って予測したりする分析手法です。

例えば、あるサービスにおいてどういった利用者が「解約したか」を分析すると、

「利用頻度が月3回未満」、さらに「契約期間が6か月未満」の場合に解約率が高くなる

といったように、結果の違いを条件の組み合わせとして出力してくれます。

このため決定木は、予測モデルとして使えるだけでなく、目的変数における違いをつける特徴的な傾向を理解するための分析手法としても非常に便利です。

この記事では、決定木の代表的なアルゴリズムであるCART（Classification and Regression Tree）を使った決定木について、以下の順番で解説します。

• 決定木とは何か
• CARTはどのように条件分岐を作るのか
• ロジカル型と数値型では何が違うのか
• Exploratoryの決定木チャートをどう読むのか
• 変数重要度や予測値との関係をどう解釈するのか
• 予測精度をどう確認するのか

決定木には他にもCHAIDというアルゴリズムがありますが、それについては次の記事で説明します。

1. 決定木とは？

決定木では、最初にすべてのデータを1つのグループとして考えます。

これをルートノードと呼びます。

そこから、

年齢が40歳未満か？

あるいは、

利用頻度が月3回未満か？

といった条件を使ってデータを2つのグループに分けます。

さらに、それぞれのグループを別の条件で分けていきます。

例えば、

利用頻度が月3回未満
↓
その中でも契約期間が6か月未満

というように条件を重ねていくことで、特徴の異なるグループを作っていきます。

こうして出来上がる形が、木が枝分かれしていくように見えることから「決定木」と呼ばれます。

最終的に分岐が止まったグループは、リーフノード、または終端ノードと呼ばれたりします。

決定木を見ることで、どの変数が最初に分岐に使われたのか、さらに、どのような条件の組み合わせによって特徴的なグループが作られたのか、といったことを視覚的に理解することができます。

2. 決定木はどういうときに使うのか？

決定木には、大きく分けると3つの使い方があります。

3. 決定木はどのように作られるのか？

では、決定木はどうやって、

利用頻度が月3回未満

のような条件を見つけているのでしょうか。

CARTの基本的な考え方は非常にシンプルです。

「どの変数の値を、どうやって分けると、分岐後の各グループ内のデータが最も似たものになるか」

を探します。

例えば、目的変数が「解約した / 解約していない」で、もともと以下のような割合だったとします。

• 解約した：40%
• 解約していない：60%

ここで、ある条件で分けた結果、

グループAでは、

• 解約した：80%
• 解約していない：20%

グループBでは、

• 解約した：10%
• 解約していない：90%

となったとします。

分岐前よりも、分岐後の各グループの中で「解約する人」と「解約してない人」がよりはっきりと分かれています。

CARTは、このように分岐後にできる各グループ内における目的変数の値ができるだけ同じようになるような分け方を探します。

4. 最初の分岐はどうやって決まるのか？

例えば説明変数として、

• 年齢
• 契約期間
• 利用頻度

の3つがあったとします。

CARTはまず、

年齢で分けるなら、どの値で分けるのがよいか？

を試します。

例えば、

年齢 < 30歳

年齢 < 40歳

年齢 < 50歳

といったさまざまな候補を比較します。

次に契約期間についても、

契約期間 < 3か月

契約期間 < 6か月

契約期間 < 12か月

などの候補を試します。

利用頻度についても同じです。

そして最終的に、分岐後のグループが最もきれいに分かれる変数と条件を選びます。

例えば、

利用頻度 < 月3回

が最もきれいに分けられるのであれば、それが最初の分岐になります。

その後、それぞれの子ノードについて再び同じ処理を繰り返します。

こうして、決定木が下に伸びていきます。

5. ロジカル型と数値型では「良い分岐」の意味が違う

CARTという名前は、「Classification（分類）and Regression Tree（回帰）」の略ですが、その名前が示す通り、CARTは分類にも回帰にも使うことができます。

Exploratoryでは、目的変数のデータ型によって、各ノードに表示される情報も変わります。

6. この処理を繰り返して木を作る

作られたそれぞれのノードについても、さらに分岐を作っていきます。

例えば、最初に、

利用頻度 が 月3回より大きいか、小さいか

で分けたあと、そのあとにできる各グループに対して、

契約期間 が6か月より大きいか小さいか

という条件を追加することでさらに解約率の違いがはっきりするのであれば、新しい分岐を作ります。

これを繰り返して木を成長させていきます。

ただし、無限に分岐を続ければよいわけではありません。

木を細かくしすぎると、分析に使ったデータだけには非常によく合うものの、新しいデータに対してはうまく予測できないといった、いわゆる「過学習」と呼ばれる問題が起きやすくなります。

そこで実際の決定木では、

• 木の最大深さ
• ノードに必要な最小行数
• 分岐によって得られる改善率

といったパラメーターを使って、木が複雑になり過ぎないようにコントロールします。

7. Exploratoryで実際に決定木を作ってみる

それでは、ここからは、実際にExploratoryで決定木を作った結果を見てみましょう。

Exploratoryでは、アナリティクスから「決定木（CART）」を選び、

• 目的変数
• 説明変数

を指定することで、CARTによる決定木を作ることができます。

例えば、顧客データを使って、

目的変数

• 解約したかどうか

説明変数

• 年代
• 契約期間
• 利用頻度
• 契約プラン
• サポートへの問い合わせ回数

などを指定し、実行ボタンをクリックすると、決定木のモデルが作られます。

8. 実際の決定木チャートで、分岐の仕組みを振り返る

ここで、先ほど説明したCARTの仕組みを、Exploratoryの決定木チャートを使ってもう一度確認してみましょう。

9. 決定木チャートから特徴的なグループを見つける

決定木を見るとき、最初の分岐だけを見るのではなく、ぜひ終端ノード（リーフノード）まで追いかけてみてください。

例えば、

操作のしやすさ < 2.5
解決までにかかった時間 = 翌日、2~3日、4日以上、未解決

という終端ノードのTRUEの確率は65.4%となっています。

これは、

操作のしやすさに対する評価が低く、さらに問題を問い合わせても解決に時間がかかってしまっている場合は、解約される可能性が高くなる

ということを意味します。

ここで重要なのは、「操作のしやすさ」単独でも「解決までの時間」単独でもなく、これら2つの条件の組み合わせによってこのグループが特徴付けられるということです。

決定木の大きなメリットの1つは、こうした変数同士の組み合わせによるパターンを簡単に素早く見つけられることです。

Exploratoryでは、終端ノードの条件というセクションに全ての終端ノードにおける条件とこの条件にマッチするデータの情報がリストされます。

10. 変数重要度 - どの変数が重要なのか？

決定木チャートを見ると、「最初に分岐に使われた変数が、一番重要な要因なのでは？」と思うかもしれません。

確かに、上の方に現れる変数は重要であることが多いです。

しかし、モデル全体としてどの変数がどれだけ重要だったかを確認するには、変数重要度を見る方が適しています。

変数重要度を見ることで、

目的変数を予測するうえで、どの説明変数がより大きな役割を果たしていたのか

を比較できます。

ここで注意したいのは、

重要度が高い = 因果関係がある

という意味ではないことです。

例えば利用頻度が解約と強く関係していたとしても、

利用頻度を増やせば必ず解約が減る

とまでは言えません。

決定木でわかるのは、あくまでデータ上の関係です。

11. 各変数の値が変わると、予測値はどう変わるのか？

変数重要度を見ると、どの変数が重要かということはわかります。

しかし、

その変数の値が変わると、予測結果はどのように変化するのか

まではわかりません。

そこで役に立つのが、各変数の値とモデルの予測値との関係を見るチャートです。

例えば「操作のしやすさ」や「解決までの時間」の変数のチャートを見ると、各値ごとに予測される解約される確率を確認できます。

これらのチャートから、「操作のしやすさ」の評価が3以上であれば解約されにくく、また「解決までの時間」も1時間以内、または当日中であれば解約されにくいということがわかります。

整理すると、

変数重要度では、

どの変数が重要か？

を確認し、そのあと、

変数と予測値の関係を使って

重要な変数がどのように目的変数と関係しているか？

を理解することができます。

12. 決定木の予測精度を見る

決定木は結果を説明するだけでなく、予測モデルでもあります。

そのため、

このモデルを使えば、実際の予測精度はどれくらいなのか？

を確認することも重要です。

例えば目的変数が「解約したかどうか」といったロジカル型の場合、次のような指標を見て判断します。

13. 決定木を使うときの注意点

決定木は非常に直感的ですが、いくつか注意すべき点があります。

14. まとめ

CARTの決定木は、目的変数の値が、分けたあとの各グループ内のデータが似たようになるように、データを分割する条件を繰り返し探索していく分析手法です。

目的変数がロジカル型やカテゴリ型などであれば、カテゴリの混ざり具合が小さくなるように分けます。

目的変数が数値型であれば、各グループ内の数値のばらつきが小さくなるように分けます。

Exploratoryの決定木チャートでは、ロジカル型の目的変数の場合には積み上げバーチャート、数値型の場合にはヒストグラムが各ノードに表示されるため、CARTが実際にどのようにデータを分けているのかを視覚的に確認することができます。

さらに、

• 決定木チャート
• 変数重要度
• 各変数と予測値の関係
• 予測精度

を組み合わせて見ることで、

• どのような条件で結果が変わるのか
• どの変数が重要なのか
• その変数の値によって予測結果がどう変わるのか
• そのパターンがどの程度予測に使えるのか

を総合的に理解できます。

ところで、今回解説した決定木はCARTという、決定木の中でも特に代表的なアルゴリズムを使ったものです。

一方、アンケートデータのようにカテゴリ型の説明変数が多い場合には、もう1つ便利な決定木のアルゴリズムがあります。

それがCHAIDの決定木と言われるものです。

CHAIDは、CARTとは異なり統計的な検定を使って分岐を作り、目的変数の傾向が似ているカテゴリをまとめたり、1つのノードから3つ以上のグループに分岐したりすることができます。

次の記事では、CHAID決定木の仕組みと、CARTとの違いについて詳しく見ていきます。

データサイエンス・ブートキャンプで実践的に学ぶ

Exploratoryの「データサイエンス・ブートキャンプ」では、決定木を使った分析はもちろん、統計学、機械学習、データ加工、可視化、分析結果の解釈まで、データサイエンスに必要な実践的なスキルを、実際に手を動かしながら、3日間で集中的に学びます。

このブートキャンプでは、以下のようなAI時代に必要なデータサイエンスの力を、参加者の皆様に身につけていただくことをゴールとしています。

• 統計学リテラシー
• 科学的思考
• データを加工・整理する力
• データを可視化して特徴を捉える力
• 統計モデル・機械学習モデルを使った分析
• 分析結果を解釈し、意思決定につなげる力

単にツールの使い方を学ぶだけでなく、問いを立て、データを準備し、可視化し、分析し、その結果をどう解釈するかまでを一通り体験していただきます。

クラスター分析を含め様々な分析手法を、実務のデータ分析でより自信を持って使えるようになりたい方は、ぜひ以下のページをご覧ください。

👉 データサイエンス・ブートキャンプの詳細を見る