Partie 1 · IA responsable
Pourquoi parler de risques ?
Cette partie suit la formation « IA Responsable : État de l'art » (GreenIT.fr, James Martin). Idée de départ : l'IA amplifie à la fois les impacts et les risques. Les capacités de l'IA, surtout générative, ont augmenté de façon exponentielle, plus vite que beaucoup d'experts ne le pensaient. D'après l'International AI Safety Report, les risques associés augmentent « substantiellement ». Autre point inquiétant, rapporté par Yoshua Bengio : certaines IA ne se comportent pas pareil au quotidien qu'en conditions de test, ce qui complique l'évaluation fiable des risques.
Avant de lister les risques, il faut savoir de quoi on parle.
Les trois « familles » de l'IA
- Intelligence artificielle : des systèmes qui peuvent « réfléchir » par eux-mêmes.
- Machine learning : des systèmes qui détectent des tendances dans de grandes quantités de données (exemple du cours : les recommandations Netflix). C'est donc bien un type d'IA.
- Deep learning : du machine learning accéléré par des réseaux de neurones, qui s'inspirent du cerveau humain.
Vérifie que tu as compris
Une histoire simplifiée (repères du cours)
| Date | Événement |
|---|---|
| 1950 | Alan Turing et le test de Turing |
| 1956 | John McCarthy invente le terme « artificial intelligence » |
| 1964 | ELIZA (Joseph Weizenbaum), premier chatbot : début de l'anthropomorphisation |
| 1997 | Deep Blue (IBM) bat Garry Kasparov aux échecs |
| 2012 | Retour du deep learning avec AlexNet et début de l'usage des GPU pour l'entraînement |
| 2017 | Les Transformers (article de Google) : fondations des LLM |
| 2018 | GPT-1, début de l'IA générative |
| 2022 | ChatGPT, le produit technologique le plus rapidement adopté de l'histoire |
Les trois sortes d'IA déployées aujourd'hui
| Type | Principe | Exemples du cours |
|---|---|---|
| Prédictive (machine learning) | Analyse de grandes quantités de données pour en tirer tendances et résultats | recommandations Netflix, détection de cancers, heure d'arrivée sur Google Maps |
| Générative (deep learning) | Génère de nouveaux contenus à partir de ses bases d'apprentissage, selon les requêtes (prompts) | ChatGPT, résumés de recherche Google, MidJourney, Veo3 |
| Agentique (multi-systèmes) | Des « agents » autonomes, qui accèdent à des outils d'exécution (code, fichiers, navigateurs) | programmer et lancer une application, créer un site, réserver des vacances |
Vérifie que tu as compris
Comment fonctionne un LLM (Large Language Model)
Deux phases :
- Apprentissage : ingestion de très grandes quantités de données (sites web, livres, vidéos...), d'où le besoin de cloud et de puissance de calcul.
- Inférence : quand l'utilisateur pose une question (le « prompt »), le modèle calcule le mot suivant le plus probable à partir de sa base d'apprentissage. Il génère des tokens (parties de mots ou d'images) qu'il assemble en phrases.
Un LLM n'est donc pas un moteur de recherche : c'est un moteur de probabilités, dont les réponses diffèrent à chaque fois. Pourtant, d'après l'étude citée (Searchlight Institute 2025, USA), moins d'un tiers des utilisateurs comprennent son fonctionnement et près de la moitié le prennent pour un moteur de recherche.
Vérifie que tu as compris
Perceptions : on utilise, mais on se méfie
- France : 5e pays au monde pour l'usage de l'IA ; 40 % des Français l'utilisent au quotidien, bien devant les États-Unis. 56 % expriment à la fois fascination et prudence ; 62 % des utilisateurs veulent plus de transparence.
- États-Unis : 71 % trouvent que l'IA avance trop vite ; 80 % veulent qu'elle soit davantage régulée, même si cela ralentit l'innovation.
- Royaume-Uni : 59 % expriment des craintes en 2025 (contre 44 % en 2022).
- Consommateurs : 37 % partagent leurs données de santé avec l'IA générative et 27 % leur numéro de compte bancaire, alors que 84 % craignent que ces données soient rendues publiques.
Côté régulation, Yoshua Bengio résume : « un sandwich est plus régulé que l'IA ». L'Europe encadre via l'AI Act ; aux États-Unis, l'administration actuelle souhaite zéro régulation.
Les risques n°1 des entreprises
Sondage Vanta (618 décideurs B2B aux États-Unis), par ordre :
- Confidentialité et protection des données
- Sécurité et menaces d'attaques
- Utilisation éthique
- Conformité avec la loi
- Biais et équité
Et l'écart usage/gouvernance : 50 % des salariés américains utilisent l'IA (13 % quotidiennement), mais seul 1 sur 4 dit que son entreprise lui a communiqué une politique IA (Gallup, février 2026).
Une carte des risques : les 3 P
Le MIT AI Risk Repository recense 1 700 risques (compilation de plus de 40 référentiels). Pour s'y retrouver, la formation en retient 10 et les range selon les 3 P de la RSE :
| People | Planet | Profit |
|---|---|---|
| Transparence Fiabilité/prédictibilité Biais Propriété intellectuelle Impacts sociaux | Durabilité (impacts environnementaux) Risques destructifs (CBRNE) | Sécurité Confidentialité Responsabilisation |
Chaque risque est évalué séparément pour l'IA prédictive, générative et agentique, car son importance change d'un type à l'autre. La suite du cours déroule ces 10 risques un par un, avec pour chacun des mitigations pour les utilisateurs, les développeurs et les décideurs. À retenir aussi : la hype est un facteur de risque, car des affirmations fantaisistes (apocalypse) cachent souvent des risques bien plus concrets (environnement, société, sécurité).