← Tous les exercices
Classer les façons d'obtenir un modèle utile
Partie 6 · ★
Le cours donne un principe : « on commence par la façon la moins chère, et on ne descend que si elle ne suffit pas ». La table du cours range les façons du haut vers le bas par nombre de poids entraînés. Écrivons-le : un dictionnaire donne le nombre de poids entraînés de chaque façon (consigne et RAG n'entraînent rien).
La table du cours compte sept façons ; on omet ici la ligne « Aligner », qui réentraîne tous les poids sans nombre propre. Classe les façons de la moins chère à la plus chère. Les ex æquo gardent leur ordre d'écriture (le tri de Python est stable). Calcule aussi combien de fois LoRA entraîne moins de poids que le fine-tuning complet.
poids = { "consigne": 0, "RAG": 0, "extraction": 9228, "LoRA": 304140, "fine-tuning partiel": 7097100, "fine-tuning complet": 110040588, } ordre = sorted(poids, key=poids.___) premiere = ordre[___] gain = poids["fine-tuning complet"] / poids[___]
Ctrl/⌘+Entrée