La partie de l'algorithme global de forêt aléatoire qui utilise mtry est (adapté de Les éléments d'apprentissage statistique):

À chaque nœud terminal qui est plus grande que la taille minimale,

1) Sélectionnez les variables mtry au hasard parmi les variables de régresseur $ p $,

2) À partir de ces mtry variables, choisissez la meilleure variable et le meilleur point de partage,

3) Divisez le nœud en deux nœuds filles en utilisant la variable et le point de partage choisis.

En aparté - vous pouvez utiliser la fonction tuneRF dans le package randomForest pour sélectionner le mtry "optimal" pour vous, en utilisant l'estimation d'erreur hors sac comme critère.

La sélection aléatoire de variables à chaque étape de division des nœuds est ce qui en fait une forêt aléatoire, par opposition à juste un estimateur ensaché. Citant les éléments de l'apprentissage statistique, p 588 dans la deuxième édition:

L'idée dans les forêts aléatoires ... est d'améliorer la réduction de la variance de l'ensachage en réduisant la corrélation entre les arbres, sans augmenter trop la variance. Ceci est réalisé dans le processus de croissance des arbres grâce à la sélection aléatoire des variables d'entrée.

Il n'y a pas d'augmentation incrémentielle du biais à cause de cela. Bien sûr, si le modèle lui-même est fondamentalement biaisé, par exemple en omettant des variables prédictives importantes, l'utilisation de forêts aléatoires n'améliorera pas la situation, mais cela ne l'empira pas non plus.

L'utilisation déséquilibrée des variables prédictives reflète simplement le fait que certaines sont moins importantes que d'autres, où important est utilisé dans un sens heuristique plutôt que formel, et par conséquent, pour certains arbres, peut ne pas être utilisé souvent ou à tout. Par exemple, pensez à ce qui se passerait si vous aviez une variable qui était à peine significative sur l'ensemble de données complet, mais que vous génériez ensuite un grand nombre d'ensembles de données bootstrap à partir de l'ensemble de données complet et exécutiez à nouveau la régression sur chaque ensemble de données bootstrap. Vous pouvez imaginer que la variable serait insignifiante sur beaucoup de ces ensembles de données bootstrap. Maintenant, comparez à une variable qui était extrêmement significative sur l'ensemble de données complet; il serait probablement significatif sur presque tous les ensembles de données bootstrap également. Donc, si vous comptiez la fraction de régressions pour laquelle chaque variable a été "sélectionnée" en étant significative, vous obtiendrez un décompte déséquilibré entre les variables. C'est un peu (mais seulement un peu) analogue à ce qui se passe à l'intérieur de la forêt aléatoire, seule la sélection de variables est basée sur "meilleur à chaque division" plutôt que "p-value < 0.05" ou quelque chose du genre.

MODIFIER en réponse à une question du PO: Notez cependant que les mesures de l'importance des variables ne sont pas basées uniquement sur le nombre de fois qu'une variable est utilisée dans un fractionnement. Par conséquent, vous pouvez avoir des variables "importantes" (mesurées par "importance") qui sont utilisées moins souvent dans les divisions que des variables moins "importantes" (mesurées par "importance".) Par exemple, considérez le modèle:

$ y_i = I (x_i > c) + 0.25 * z_i ^ 2 + e_i $

tel qu'implémenté et estimé par le code R suivant:

  x < - runif (500) z <- rnorm (500) y <- (x>0.5) + z * z / 4 + rnorm (500) df <- data.frame (list (y = y, x = x, z = z, junk1 = rnorm (500), junk2 = runif (500), junk3 = rnorm (500))) foo <- randomForest (y ~ x + z + junk1 + junk2 + junk3, mtry = 2, data = df) importance (toto) IncNodePurityx 187.38456z 144.92088
junk1 102.41875junk2 93.61086junk3 92.59587varUsed (toto) [1] 16916 17445 16883 16434 16453  

Ici, $ x $ a une importance plus élevée, mais $ z $ est utilisé plus fréquemment dans les divisions; L'importance de $ x $ est élevée mais dans un certain sens très locale, tandis que $ z $ est plus importante sur toute la gamme des valeurs $ z $.

Pour une discussion plus complète sur les forêts aléatoires, voir le Chap. 15 of The Elements ..., que le lien ci-dessus vous permet de télécharger gratuitement au format pdf.