Bilan

Chaque outil du jour répond à un problème posé par le précédent. Les trois défauts du MLP (les voisins perdus, les décalages, la taille : 19 267 712 paramètres pour une seule couche de 128 neurones sur une photo couleur de 224 × 224) ont conduit à la convolution ; le manque d'images, aux remèdes puis à l'apprentissage par transfert ; le dépistage, à la sensibilité, la spécificité et au seuil. Les six idées à retenir :

#	Partie	Ce qu'il faut retenir
1	Repérer un motif partout	Une convolution refait la même somme pondérée de pixels voisins à chaque position : le motif est trouvé partout, avec peu de poids.
2	Construire un CNN	Des étages « convolution, ReLU, pooling », puis une couche dense qui décide. Les filtres sont appris ; 5 fois moins de paramètres que le MLP.
3	Éviter le par-cœur	On apprend sur l'entraînement, on choisit sur la validation, on note sur le test, une seule fois.
3	Les quatre remèdes	Early stopping, augmentation, dropout, weight decay.
4	Emprunter un réseau	Peu d'images : on part d'un réseau déjà entraîné, ResNet-18, en extraction de caractéristiques ou en fine-tuning.
5	Évaluer pour la clinique	Sensibilité, spécificité, précision, et un seuil choisi sur la validation, selon le prix des erreurs.

Les chiffres de la journée

Chiffre	Ce qu'il mesure
4 708	radiographies d'entraînement de la pneumonie
524 · 624	radiographies de validation · de test (390 pneumonies, soit 62,5 %)
6 369	paramètres du CNN de la pneumonie (160 + 4 640 + 1 569)
11 689 512	paramètres de ResNet-18 (en calcul, environ 1 800 fois plus que notre CNN de la pneumonie, d'après les notes de la diapositive)
513	paramètres entraînés en extraction de caractéristiques (512 poids + 1 biais)
1,28 million · 1 000	photos d'ImageNet · catégories
80 % · 67 %	sensibilité · spécificité sur les 8 radios, au seuil 0,5

Rappel de la boucle d'hier : prédire, mesurer l'erreur, effacer les pentes, corriger, juger. Les cinq temps ne changent pas ; aujourd'hui, seule la façon dont le réseau lit l'image a changé.

La limite du jour : un CNN lit des grilles, pas des phrases

Un CNN est fait pour des grilles de taille fixe, où les voisins sont ceux d'à côté. Un texte pose trois problèmes nouveaux :

• La longueur : une image a une taille fixe ; un résumé médical fait 50 mots, un autre 300.
• L'ordre : « fièvre sans toux » et « toux sans fièvre » sont les mêmes mots, deux tableaux cliniques.
• La distance : un mot peut dépendre d'un autre placé trente mots plus tôt.

Demain, J3 : des réseaux qui lisent

3 624 résumés médicaux en français, à classer par spécialité. Pour t'y préparer, retiens ce qui ne change pas d'un jour à l'autre : la boucle d'apprentissage, la séparation entraînement / validation / test, et l'habitude de se demander « quelles erreurs, et à quel prix ? » avant de croire une accuracy.