Choisir une stratégie (RAG, sept façons)

Le RAG complète la consigne, pas les poids

1. Préparer, une fois. On découpe les documents en passages ; un encodeur de type BERT (comme DrBERT) calcule un vecteur de 768 nombres par passage.
2. Chercher. On calcule le vecteur de la question et on garde les 3 passages dont le produit scalaire avec lui est le plus grand.
3. Compléter la consigne. On place ces passages avant la question : « Voici trois extraits du protocole. Question : … »
4. Générer. Le modèle aligné prédit la suite de ce texte : une réponse qui s'appuie sur les passages et peut les citer.

Ce qu'il apporte : on met à jour les documents sans réentraîner, la réponse cite sa source, les documents restent sur les serveurs du CHU. Sa limite : si la recherche ramène le mauvais passage, la réponse sera fausse et dite avec assurance ; et la consigne a une longueur maximale.

import re

corpus = ["fièvre aiguë : appeler le médecin si la température dépasse 39 degrés",
          "bilan urinaire positif : antibiogramme avant l'antibiotique",
          "courrier de sortie remis avec l'ordonnance"]
question = "que faire avec un bilan urinaire positif ?"

def mots(t):
    return set(m for m in re.findall(r"\w+", t.lower()) if len(m) > 3)

def score(q, p):
    return len(___ & ___)   # mots communs

def meilleurs(q, k=2):
    return sorted(range(len(corpus)), key=lambda i: ___, reverse=True)[:k]

scores = [score(question, p) for p in corpus]
passages = [corpus[i] for i in meilleurs(question, 2)]
consigne = "Voici deux extraits du protocole : " + " ; ".join(passages) + " Question : " + question
scores_hors = [score("horaires du parking", p) for p in corpus]
print(scores, meilleurs(question, 2), scores_hors)

Sept façons d'obtenir un modèle utile

Façon	Ce qu'on entraîne	Ce qu'il faut
Écrire une consigne	rien : on décrit la tâche, avec quelques exemples	un modèle aligné, quelques exemples
RAG	rien : on ajoute à la consigne les passages trouvés	une base de documents à jour
Extraction (J3)	la tête seule : 9 228 poids	des exemples étiquetés, même peu
LoRA (partie 4)	A, B et la tête : 304 140 poids	des centaines d'exemples étiquetés
Fine-tuning partiel (J3)	le dernier bloc et la tête : 7 097 100 poids	des centaines d'exemples étiquetés
Fine-tuning complet	tous les poids : 110 040 588	plus d'exemples, un GPU
Aligner (partie 5)	tous les poids, sur des consignes puis des préférences	des milliers de consignes et de paires classées

Du haut vers le bas, on entraîne de plus en plus de poids. On commence par la façon la moins chère, et on ne descend que si elle ne suffit pas.

FACONS = [("consigne", {"aligne"}), ("rag", {"aligne", "docs"}), ("extraction", {"few"}),
          ("lora", {"hund"}), ("partiel", {"hund"}), ("complet", {"hund", "gpu"}), ("aligner", {"mil"})]

def possibles(dispo):
    return [nom for nom, besoins in FACONS if ___]

dispo1 = {"few", "hund"}        # 1 514 résumés étiquetés
dispo2 = {"aligne", "docs"}     # modèle aligné et protocoles
dispo3 = {"aligne"}             # modèle déjà aligné, pas de documents
p1, p2, p3 = possibles(dispo1), possibles(dispo2), possibles(dispo3)
print(p1, p2, p3)

Question · 3 minutes : trois besoins du CHU

1. Orienter chaque nouveau résumé d'article vers sa spécialité : on dispose de 1 514 résumés étiquetés.
2. Répondre aux questions des soignants sur les protocoles du CHU, mis à jour chaque mois, en citant le protocole.
3. Rédiger des courriers de sortie au format du service, à partir d'un modèle déjà aligné.

Choisis une façon pour chacun avant de vérifier. Quatre critères pour justifier : les données disponibles, le coût, la fraîcheur de l'information, la confidentialité.