Partie 3 · IA responsable
Biais et propriété intellectuelle
1.3 Les biais
Un biais, c'est une IA qui désavantage systématiquement un type de personne ou de point de vue. En IA prédictive, on peut démontrer qu'un type de personne a été dévalorisé et corriger ce biais. En IA générative, le risque est surtout l'accélération et l'amplification des biais, par exemple en remontant des points de vue autrement cachés du grand public (exemple cité : Grok sur X).
Les débuts des biais en IA prédictive
- Reconnaissance faciale : Joy Buolamwini a démontré qu'elle reconnaît mal les femmes noires. Amazon, Microsoft et IBM ont arrêté la vente ou le développement de tels systèmes, qui restent utilisés dans 250 aéroports américains.
- COMPAS : biais démontré contre les accusés noirs au tribunal.
- Recrutement d'Amazon : l'algorithme défavorisait les femmes, car la plupart des personnes embauchées dans le passé étaient des hommes. Leçon : entraîner sur des données historiques reproduit le passé.
IA générative : l'accélération
- 2024 : Google Gemini se trompe d'ethnie en générant des images, en essayant de respecter la diversité (alors que, pour les LLM, les médecins sont des hommes blancs).
- 2025 : des LLM orienteraient davantage vers des services de santé urgents les personnes de couleur, sans-abri ou LGBTQIA+.
- 2026 : ChatGPT (GPT-5.2) a cité Grokipedia pour 9 questions sur 12.
Vérifie que tu as compris
Cinq types de biais
| Biais de... | Description | Résolution |
|---|---|---|
| Données | Données incomplètes ou non représentatives | Réentraîner avec des données plus représentatives |
| Mesure | Jeu de données incomplet (un pays manquant, par exemple) | Réentraîner avec des données complètes |
| Annotations / biais cognitif | Les biais des annotateurs influencent les résultats | Former les annotateurs |
| Algorithme | Biaisé à la racine | Refaire, réentraîner ou remplacer par un algorithme équitable |
| Utilisateurs | Confiance aveugle dans les réponses de l'IA | Les former à l'esprit critique |
Il n'existe pas de « biais ethnique » comme catégorie technique : une IA peut discriminer sur l'ethnie, mais c'est une conséquence qui provient de l'un de ces types.
Vérifie que tu as compris
Mitigations des biais
- Utilisateurs : circonspection ; au travail, éviter de générer des images de personnes avec l'IA (consigne d'un grand groupe français).
- Développeurs : veiller à la représentativité des données ; choisir des modèles transparents et explicables ; rendre visibles les limites de chaque système ; être prêt à réentraîner au pied levé.
- Décideurs : auditer les biais algorithmiques, avec des outils open source (IBM AI Fairness 360, Fairlearn, Aequitas...) ou ceux des grands clouds (Azure ML, Vertex AI, SageMaker Clarify) ; les résultats servent à réentraîner.
1.4 La propriété intellectuelle
L'IA générative a besoin de quantités considérables de données et reprend la propriété intellectuelle de nombreuses sources (artistes, plateformes, auteurs), le plus souvent sans permission. Exemples : en 2021, OpenAI récupère plus d'un million d'heures de vidéos YouTube pour entraîner GPT-4, en contradiction consciente avec les conditions de YouTube ; ce comportement est courant en 2025 (Meta, NVIDIA, Anthropic...).
Ont-ils le droit ? Deux lectures s'opposent :
- Oui, selon la notion de fair use (droit de citation) invoquée par les entreprises.
- Non, d'après le Copyright Act de 1976 (États-Unis), qui interdit la reproduction intégrale des œuvres. Argument à l'appui : certains LLM peuvent restituer 95,8 % du premier livre de Harry Potter (Claude 2.7 Sonnet, d'après Stanford).
Le principe de l'« opt-out » (« dis-nous si tu ne veux pas être utilisé ») est jugé « structurellement inadapté » à l'IA générative par une étude commandée par le Parlement européen. Et, d'après la Cour suprême américaine, les œuvres créées avec l'IA ne peuvent pas bénéficier du droit d'auteur.
Les procès se multiplient aux États-Unis : 42 cas en mai 2025, 65 en décembre 2025 (+55 %), 100 en avril 2026.
Vérifie que tu as compris
Mitigations de la propriété intellectuelle
- Utilisateurs : choisir des plateformes transparentes, ou qui bannissent l'IA (Bandcamp et Qobuz interdisent l'IA musicale) ; ne jamais téléverser dans un LLM du contenu protégé par le droit d'auteur.
- Développeurs : si c'est critique, mettre en place des outils de détection d'IA (exemple : IRCAM Amplify pour la musique).
- Décideurs : protéger ses propres actifs ; se référer à des accords (UMG/Udio, WMG/Suno) ; formaliser une charte ; Mistral propose d'imposer un tarif aux entreprises d'IA non européennes exploitant des contenus européens ; les procès « marchent parfois ».