Le produit scalaire

Partie 4 · ★

Le produit scalaire de u et x : on multiplie les deux vecteurs composante par composante, puis on additionne. C'est le calcul d'un neurone de J1 sans biais, et il donne un nombre — la brique du RNN (partie 4) et des scores d'attention (partie 5).

Complète produit_scalaire puis calcule u · x pour les trois tokens du cours avec u = [2 ; −1] : fièvre [1 ; 0], sans [0 ; 1], toux [1 ; 1].

def produit_scalaire(u, x):
    total = ___
    for a, b in zip(u, x):
        total += a ___ b
    return total

u = [2, -1]
u_x = [produit_scalaire(u, x) for x in ([1, 0], [0, 1], [1, 1])]

Ctrl/⌘+Entrée

Exercice suivant → L'état d'un RNN