Partie 1 · IA frugale
Évaluer, choisir et prompter frugalement
Évaluer : ce que rappelle l'ACV de l'ITU
L'ACV de l'IA de l'ITU (recommandation L.1801, ONU) rappelle trois choses : 1) comparer ce qui est comparable ; 2) les différents types d'IA ont des impacts extrêmement variés ; 3) il faut analyser toutes les étapes du cycle de vie, pas que l'utilisation. Or la plupart des ACV de l'IA actuelles sont incomplètes.
Les outils indépendants
| Outil | Rôle |
|---|---|
| EcoLogits | impacts (énergie, émissions, ressources abiotiques, eau) des requêtes texte et vidéo ; pour les modèles appelés par API ; méthodologie A-LCA (ISO 14044) |
| CodeCarbon | s'intègre au code et mesure le CO2eq utilisé par GPU, CPU et mémoire ; pour les modèles auto-hébergés (EcoLogits en fait partie) |
| AI Energy Score | classe les modèles selon leur consommation d'électricité par token |
| ML.ENERGY Leaderboard | énergie consommée par token face à la latence inter-token, pour LLM, MLLM et diffusion |
| Green Algorithms | estime la consommation et les émissions d'une IA (entraînement et inférence) |
| Compar:IA | compare les impacts du même prompt soumis à 2 LLM (parmi 42), via EcoLogits |
Vérifie que tu as compris
Évaluations directes des fournisseurs : utiles mais incomplètes
- Mistral AI a évalué son modèle Large 2 (07/25) avec le référentiel IA Frugale (AFNOR) : l'ACV la plus poussée à cette date par un créateur de modèles, validée par Resilio, Hubblo et l'ADEME. Mais pas de précisions énergétiques (dont mix carbone) et on est loin d'un ACV PEF complet à 16 critères.
- Google (fin août 2025), pour un prompt Gemini typique : 0,24 Wh (contre 0,34 pour ChatGPT), 0,00026 L d'eau (contre 0,00032176), 0,03 gCO2eq. Mais sans la longueur du prompt, le nombre total de prompts, les émissions location-based (3 à 4 fois plus que market-based), ni l'entraînement, le hardware, le réseau...
- NVIDIA a sorti son premier ACV, limité aux gaz à effet de serre (1 impact sur 16).
Évaluations indépendantes des GPU
Première vraie ACV (16 critères PEF) de hardware IA (septembre 2025, GPU NVIDIA A100) : pour GPT-4 (environ 1,8T de paramètres), l'utilisation domine 10 catégories sur 16 et contribue à 96 % du changement climatique et de l'utilisation des ressources fossiles ; la fabrication domine 6 catégories, dont la toxicité humaine cancérogène (94 %). Conclusions : les impacts ne se limitent pas aux émissions ; il faudrait faire tourner plus de modèles sur moins de hardware ; les GPU sont sous-exploités (x3 d'efficacité d'utilisation, MFU, + x3 de durée de vie = -93 % de besoins en GPU).
L'Association Green IT a évalué les GPU H100 (15 critères PEF) : impacts x7 d'ici 2030 et 69 % des impacts de l'IA ne sont pas des émissions (réchauffement global 31 %, épuisement des ressources abiotiques 21,4 %, particules fines 18,5 %, eutrophisation 18,3 %). Recommandations : créer un plan « sobriété IA », créer une filière d'excellence IA frugale, héberger l'IA dans les pays à l'électricité la moins impactante (quick win seulement).
Vérifie que tu as compris
Choisir le modèle le plus frugal
Avant tout, s'assurer que l'IA est vraiment nécessaire (de nombreuses alternatives existent). La mesure précise ou officielle n'existe pas : pas de garantie absolue. La démarche du cours :
- Flexibilité : le modèle (idéalement open source, petit) peut-il être hébergé en on-premise ou on-device ? Dans un pays à faible intensité carbone ? Des lois extra-territoriales pourraient-elles s'appliquer ? Quel risque de lock-in ?
- Sélection : EcoLogits Calculator, ML.ENERGY, AI Energy Score, Compar:IA.
- Test : collecter un échantillon de prompts de production représentatifs, benchmarker les modèles candidats avec les mêmes prompts et noter la consommation énergétique moyenne.
- Monitoring : une fois en production, suivre les impacts en continu (EcoLogits Library pour les modèles par API, CodeCarbon pour l'auto-hébergé).
Le Frugal AI Switchboard (BetterTech) aide à passer d'un gros modèle généraliste à un petit modèle spécialisé : identifier le besoin parmi 6 des plus communs (programmer, analyser des données, retranscrire une réunion, générer une image, rédiger, chatbots SAV), classer par précision, vérifier le degré d'ouverture, évaluer par requête (coût, énergie, émissions) puis classer les alternatives.
Vérifie que tu as compris
Green prompting
Même sans pouvoir choisir son modèle, on réduit son impact : le green prompting permet des réductions de GES de 32 à 48 %. Principe : moins de tokens générés = moins d'énergie.
- Exprimer toute la demande en un prompt clair, complet et concis, sans questions supplémentaires.
- Ne soumettre que le contenu à analyser (une page d'un PDF) : les grosses requêtes sont un gâchis et causent du context rot.
- Encourager des réponses variées (« montrez-moi les façons les plus efficaces de faire X »).
- Éviter les termes trop techniques, locaux ou spécifiques (acronymes).
- Poser sa question selon un rôle spécifique (« en tant que pompier, je souhaite... ») et des questions spécifiques.
- Nouveau sujet ? Nouvelle conversation : sinon la conversation entière est recalculée à chaque fois.
- Inutile d'être poli : dire « merci » génère de nouveaux calculs.
Pour tout exprimer en une fois, inclure dans chaque prompt : Contexte, Objectif, Style/Ton, Audience, Réponse (format souhaité). Cette structure est appelée méthode COSTAR dans le cours.
Vérifie que tu as compris