Transparence et fiabilité

1.1 La transparence

Transparence : savoir ce que fait l'IA, avec quelles limites, et si un contenu vient d'elle. Elle est avec la responsabilisation l'une des deux bases incontournables de toute politique IA responsable. Elle se pose différemment selon le type d'IA :

• Prédictive : les limites doivent être claires pour tous (exemple : « pourquoi n'ai-je plus droit à la CAF ? »).
• Générative : impossible de savoir avec certitude si un contenu est généré (deepfakes) ; à l'époque du cours, aucune obligation légale n'existait à ce sujet.
• Agentique : plus il y a de systèmes impliqués, plus la transparence est compromise.

Deepfakes

Un deepfake est un contenu (vidéo, image, audio) créé par IA générative avec un réalisme confondant, souvent pour nuire. Exemples du cours : l'affaire Grok « nudify » (fin 2025-début 2026) avec 3 millions d'images dont 23 000 d'enfants, interdite par l'AI Act dès décembre 2026 ; une fausse vidéo de « coup d'État en France » (13 millions de vues) que Meta a refusé de retirer ; une interview deepfake qui a failli provoquer une guerre Inde/Pakistan.

Opacité administrative : le cas CNAF

La CNAF utilise des algorithmes pour décider quels allocataires contrôler en priorité. Selon plusieurs ONG, ils cibleraient d'abord les plus vulnérables (bénéficiaires du RSA, d'allocations handicap, chômeurs), au risque de leur faire perdre leurs allocations. Une plainte a été déposée devant le Conseil d'État (octobre 2024, renouvelée début 2026). Conclusion du cours : l'opacité de l'IA prédictive peut devenir trop élevée.

L'évaluation d'impact algorithmique (EIA / AIA)

L'outil de référence est celui du gouvernement du Canada : en place depuis 6 ans, obligatoire avant tout projet d'IA du secteur public, questionnaire en open source (aussi en français). Environ une centaine de questions : 65 sur les risques (projet, système, algorithme et son explicabilité, décisions, impacts, données) et 41 sur les mitigations (qui a été consulté, qualité des données...).

• Elle se fait deux fois : en début et en fin de projet.
• Résultat : une note de 1 à 4 ; les projets notés 3 ou 4 peuvent être réévalués avant validation.

Exemple canadien : un département voulait traiter plus vite des demandes de visa. L'évaluation a classé le projet à haut impact, d'où explicabilité à 100 %, humain dans la boucle pour tout rejet et tests anti-biais trimestriels. Après déploiement, les demandes étaient traitées 40 % plus vite, et un biais détecté par un chercheur externe (certains pays 3 fois plus ciblés) a conduit à réentraîner le modèle.

Mitigations de la transparence

Attention : aucun outil de détection n'est parfait.

1.2 Fiabilité et prédictibilité

Une IA doit fonctionner aussi bien en laboratoire que dans la vie de tous les jours. Les LLM sont le premier produit informatique dont on ne peut jamais être sûr du résultat : ils ne répondent jamais deux fois pareil et même leurs créateurs ne savent pas l'expliquer. Exemples du cours : un chef de police britannique a pris une décision clé à partir de fausses informations de Copilot ; les AI Overviews de Google ont donné des conseils de santé erronés et provoqué un procès en diffamation de 110 millions de dollars.

Pourquoi les LLM hallucinent

• Les réseaux de neurones ont un nombre de chemins incalculable ; ils sortent la réponse la plus probable selon leur base de connaissance.
• Les benchmarks donnent la même valeur à une erreur et à « je ne sais pas » : le modèle a donc intérêt à inventer plutôt qu'à avouer.
• Même logique pour la flatterie, surtout pour maximiser l'engagement (le temps passé sur la plateforme), comme sur les réseaux sociaux.
• Ils ne sont pas toujours mis à jour en temps réel.

Plus gros ne veut pas dire meilleur

• GPT o3 et o4-mini hallucinent 2 fois plus que o1, plus ancien (source : OpenAI).
• GPT-5 (08/2025), créé avec 15 fois plus de puissance de calcul qu'en 2024, affirmait au lancement que « blueberry » comptait 3 « R ».
• L'affirmation « les LLM ont besoin de toujours plus de calcul et de données » ne repose sur aucune preuve scientifique.

IA agentique : des agents du chaos ?

Aucun système n'existe aujourd'hui pour garantir la fiabilité des systèmes agentiques. Une fausse réponse peut cascader à travers de nombreux systèmes. Le livre blanc « Agents of Chaos » donne des exemples : agents qui acceptent les ordres de non-administrateurs, consomment des ressources sans contrôle ou déclarent avoir fini des tâches qu'ils n'ont pas faites. Autres chiffres : 80 % des plus grands LLM corrompent leurs documents après 20 tours ; Gartner prévoit que 40 % des projets d'IA agentique seront annulés d'ici 2027 (trop chers, valeur peu claire ou risques mal contrôlés).

Mitigations de la fiabilité

• Utilisateurs : vérifier les informations avec plusieurs sources, poser la question en plusieurs versions, signaler les erreurs, désactiver les fonctions IA si besoin, et surtout garder l'humain dans la boucle : toujours vérifier un contenu IA avant de le partager.
• Développeurs : le renforcement par feedback humain (RL/RLHF, Reinforcement Learning with Human Feedback) rend les modèles plus « sûrs » en leur imposant des garde-fous, mais peut aussi les rendre plus flatteurs.
• Décideurs : consulter des classements d'hallucinations (par exemple Phare, de Giskard) avant de choisir un modèle.