Les arbres en RF et les arbres simples sont construits en utilisant le même algorithme (généralement CART). La seule différence mineure est qu’un seul arbre essaie tous les prédicteurs à chaque division, alors que les arbres en RF n’essayent qu’un sous-ensemble aléatoire de prédicteurs à chaque division (cela crée des arbres indépendants ). En outre, chaque arborescence d'un RF est construite sur un échantillon bootstrap des données d'entraînement d'origine, plutôt que sur l'ensemble d'apprentissage complet. Cela fait de chaque arbre de la forêt un expert sur certains domaines de l'espace de données, et mauvais ailleurs.

Donc, pour ces raisons, cela n'a aucun sens d'extraire un seul arbre d'une forêt aléatoire afin de utilisez-le comme classificateur. En fonction de ses domaines d'expertise, il pourrait vous donner de meilleurs résultats qu'un arbre traditionnel construit avec CART sur l'ensemble de données complet, ou bien pire. Ce qui permet à un RF d'être bien meilleur qu'un seul arbre, c'est qu'il fait pousser de nombreux arbres décorrélés et fait la moyenne de leur sortie. Ce n'est que lorsque le comité d'experts comprend suffisamment de membres (généralement entre 200 et 2000) que la variance est réduite. Mais individuellement, chaque arbre d'un RF serait plus faible qu'un seul arbre construit via CART traditionnel.

Vous pouvez certainement extraire un arbre d'un RF pour avoir une idée de ce qui se passe dans la forêt (voir le lien que j'ai fourni dans mon commentaire ci-dessus). N'utilisez pas cet arbre unique comme classificateur.

Ce que vous recherchez peut-être, c'est l'approche Combining Multiple Models (CMM) développée par Domingos dans les années 90. Les détails de son utilisation avec un ensemble ensaché de règles C4.5 sont décrits dans son article ICML

Domingos, Pedro. «Acquisition de connaissances à partir d'exemples via plusieurs modèles». Dans Actes de la quatorzième conférence internationale sur l'apprentissage automatique . 1997.

Le pseudo-code du tableau 1 n'est pas spécifique au C4.5 ensaché, cependant:

Pour appliquer ceci à Random Forests, le problème clé semble être de savoir comment générer l'exemple généré aléatoirement $ \ overrightarrow {x} $. Voici un cahier montrant une façon de le faire avec sklearn .

Cela m'a amené à me demander quel travail de suivi a été effectué sur CMM, et si quelqu'un a trouvé une meilleure façon de générer $ \ overrightarrow {x} $. J'ai créé une nouvelle question à ce sujet ici.

À l'exception de scénarios très improbables, une prédiction aléatoire de la forêt ne peut pas être représentée par un seul arbre. En effet, ils apprennent des prédicteurs dans différentes classes d'hypothèses: une forêt aléatoire apprend des prédicteurs sur l'espace de combinaisons linéaires d'arbres, qui comprend des prédicteurs qui ne sont pas des arbres. En d'autres termes, les forêts apprennent des prédicteurs dans la durée de l'espace des arbres.

Cela dit, il y a l'espoir qu'il existe un arbre qui est une bonne approximation du prédicteur de la forêt. Une manière rapide et sale de trouver cet arbre, est d'adapter un arbre aux prédictions de la forêt. La qualité de ses prévisions dépendra de la "distance" entre le meilleur prédicteur de forêt et sa meilleure approximation d'arbre.

Il semble que vous cherchiez à répondre à deux préoccupations - 1. l'interprétabilité et 2. l'efficacité de la prédiction. Comme déjà mentionné dans les commentaires ci-dessus, vous pouvez extraire l ' importance variable en Python, de sorte que les adresses point 1.

Pour aborder le point 2, si vous êtes préoccupé par l'efficacité jusqu'à microsecondes, vous souhaiterez peut-être explorer d'autres algorithmes, tels que la régression logistique, et comparer les performances hors échantillon à celles générées par Random Forest; si les performances sont presque équivalentes mais que la régression logistique est beaucoup plus rapide, vous pouvez alors prendre la décision d’opter pour la régression logistique.

Si vous êtes prêt à utiliser Random Forest, la réponse courte est que techniquement, vous pourrait construire un arbre aléatoire en définissant ntree = 1 et cela pourrait produire une prédiction décente, mais une collection d'arbres sera bien meilleure qu'un seul arbre. Il n'est donc pas logique de créer un seul arbre à partir du sous-ensemble d'arbres, à moins que vous ne souhaitiez échanger des performances hors échantillon contre de l'efficacité.

De plus, vous pouvez également accélérer les prédictions en un facteur de 10 ou plus en utilisant uniquement un sous-ensemble d'arbres dans la prédiction finale. Si vous entraînez 1500 arbres, vous pouvez sélectionner le sous-ensemble qui contribue le mieux à la prédiction finale. Je pense à quelque chose du genre Sélection d'ensemble à partir d'un modèle de bibliothèques, où chaque arbre de votre forêt serait le modèle de votre ensemble.

L'un des classiques de la combinaison de ces fonctions est "Algorithmes basés sur des graphes pour la manipulation de fonctions booléennes". Il contient plus de 3000 citations. Vous pouvez traiter les arbres comme un cas particulier de fonctions booléennes.

Veuillez noter que si votre modèle de forêt aléatoire est grand, le modèle d'arbre unique sera probablement aussi grand.

Comme le dit JohnRos ci-dessus, vous pouvez en effet rechercher une approximation globale d'arbre unique de Random Forest en essayant d'adapter un seul arbre à la prédiction de la forêt aléatoire sur un (très) grand nombre de points.Cela peut fonctionner pour un autre modèle de boîte noire.C'est ce qu'on appelle l'approche "oracle" de l'approximation globale d'un arbre unique par [1] (parce que la boîte noire est utilisée comme un oracle pour s'adapter à l'arbre unique). Si j'ose, j'ai chargé quelques exemples et plus d'explications sur Github ici: https://github.com/ljmdeb/GSTA

[1] Riccardo Guidotti, Anna Monreale, Salvatore Ruggieri, Franco Turini, Fosca Giannotti et Dino Pedreschi.2018. Une enquête sur les méthodes pour expliquer les modèles de boîtes noires.ACM Comput.Surv.51, 5, article 93 (août 2018), 42 pages.(en particulier le tableau à la page 93:26)