2020年7月23日木曜日

RandomForestはホントに交互作用を拾うか?

木構造系のモデルは、分岐の組み合わせにより説明変数間の交互作用もモデルに自動的に組み込まれそうな「気がする」。しかし実際に実際に動かしてそのことを確認した記事がネット上になかったので自分自身で確認することに。

まずはトイデータを用意。ここでX[:, 2]とX[:, 3]が交互作用で目的変数に効くようにしている。X[:, 0]は目的変数には無関係な説明変数。

次に学習&テストデータセットに分けて学習と予測を行って精度評価してみる。
ここでは比較対象として単純な線形回帰モデルも使っている。



なるほど、ほとんど予測できていない線形回帰と比べてRandomForestは精度良く予測できている。

Importanceも一応見てみると、交互作用に関わる変数のImportanceが高くなっている。


以上、当たり前といえば当たり前だけど実際に確認してみた。

ここに元のNotebookを置いています。

1 件のコメント:

  1. Evolution are on the very high of 솔 카지노 their game, and the developer’s reside studio productions showcase their knack for bringing in style game codecs into the digital realm with flair. With a super-fast sign-up process and rapid deposits, we’ll have you set up in no time. New German rules require account verification to proceed taking part in} at Caxino. Please enter the phone quantity which is registered in your Caxino account and we will ship a affirmation code to change your password. Horse races are deeply covered as nicely, and you’ll get to put bets on thoroughbreds, harness, and even greyhounds.

    返信削除