Deep learning : réseaux, texte, images, renforcement

Réseau de neurones

Un réseau de neurones est un modèle composé de multiples neurones reliés entre eux, une structure qui se rapproche du fonctionnement du cerveau humain. Il comporte :

• une couche d'entrée (input layer) : récolte les données d'apprentissage ;
• une ou plusieurs couches intermédiaires / cachées (hidden layers) : réalisent l'apprentissage ;
• une couche de sortie (output layer) : restitue les valeurs de prédiction attendues.

Un modèle de deep learning est un réseau comportant un nombre important de couches cachées : plus complexe et plus lourd à entraîner, mais capable d'apprendre des tâches plus complexes. Un réseau sert à la régression, à la classification et à l'apprentissage non supervisé, et brille sur les tâches complexes (texte, images).

Texte : le NLP

Le Natural Language Processing regroupe les méthodes permettant aux machines de comprendre du texte en langage « humain ». Applications : traduction automatique, correction des fautes, analyse de sentiments, extraction d'informations (NER : Named Entity Recognition), classification de textes, résumé, génération de textes.

Architectures particulièrement performantes : RNN (Recurrent Neural Network), LSTM (Long-Short Term Memory), TNN (Transformer Neural Network), LLM (Large Language Models). Exemples du cours sur Hugging Face : camembert-base, camembert-ner, camembert-allocine.

Images : les CNN

Les modèles « convolutifs » (CNN, Convolutional Neural Networks) sont adaptés à l'analyse d'images : classification d'images, identification d'éléments dans une image, génération d'images, analyse de vidéos, description d'images.

Apprentissage par renforcement

Il permet à un modèle de deep learning de s'améliorer en répétant de nombreuses fois une tâche. L'algorithme est « récompensé » en cas de succès pour l'encourager à progresser.