← Tous les exercices
L'état d'un RNN
Partie 4 · ★★
Un réseau récurrent lit dans l'ordre en mettant à jour un état h : h(t) = w × h(t−1) + u · x(t), avec h(0) = 0. L'état résume tout ce qui a été lu ; w et u sont les mêmes à chaque token. Le cours choisit w = 0,5 et u = [2 ; −1].
Complète etat_final. « fièvre sans toux » doit donner 1 et « toux sans fièvre » 1,75 : même tokens, mêmes poids, état final différent car l'ordre compte.
def produit_scalaire(u, x): return sum(a * b for a, b in zip(u, x)) w, u = 0.5, [2, -1] def etat_final(embeddings): h = ___ for x in embeddings: h = w * ___ + produit_scalaire(u, x) return h
Ctrl/⌘+Entrée