L'entropie croisée d'une image : −log de la bonne case

Partie 5 · ★★

Pour plusieurs réponses, la perte reste « −log de la probabilité de la bonne réponse ». Avec les scores du cours [2.0, 1.0, 0.1] (foie, rate, rein) et la bonne réponse = foie (case 0), le notebook trouve 0,417. nn.CrossEntropyLoss fait ce calcul à partir des scores, car elle applique la softmax elle-même.

Complète perte_ce(scores, cible) : softmax (fournie), puis −log de la case cible.

def softmax(scores):
    exps = [math.exp(s) for s in scores]
    total = sum(exps)
    return [e / total for e in exps]

def perte_ce(scores, cible):
    probas = softmax(scores)
    return -math.log(probas[___])

scores = [2.0, 1.0, 0.1]
perte_foie = perte_ce(scores, 0)

Ctrl/⌘+Entrée

Exercice suivant → Zéro, une ou deux couches cachées : 8 635, 101 899, 109 451