Basique ou avancé, et la forêt aléatoire

Le cours oppose deux familles. Les modèles basiques de ML sont simples à expliquer mais généralement moins performants. Les modèles avancés sont plus complexes mais aussi plus performants. Quatre familles avancées sont citées : random forest, gradient boosting, réduction de dimensions, deep learning.

Random forest (forêt aléatoire)

C'est une extension des arbres de décision vus précédemment. Le modèle construit une multitude d'arbres de décision, chacun de manière différente : c'est la forêt. Les prédictions des différents arbres sont moyennées pour donner la prédiction finale.

(Hors cours, pour comprendre « de manière différente » : chaque arbre est en général entraîné sur un tirage aléatoire des lignes et des variables.)