Partie 3 · AI Act
Synthétiser et trouver la cause racine
La grille se termine par une synthèse des non-conformités : numéro, non-conformité, réf. AI Act, classification, preuve ou constat, impact. Exemple pour TalentRank :
| N° | Non-conformité | Réf. | Classif. | Impact |
|---|---|---|---|---|
| 1 | Aucune analyse de biais sur les jeux de données | Art. 10 | M | Discrimination possible de candidats |
| 2 | Aucun document de gestion des risques | Art. 9 | M | Risques non identifiés ni traités |
| 3 | Aucune notice d'utilisation | Art. 13 | M | Déployeur ne peut pas utiliser conformément |
| 4 | Aucune procédure de supervision humaine ni formation | Art. 14 | M | Score appliqué sans contrôle effectif |
| 5 | Logs sans procédure de conservation | Art. 12 | m | Traçabilité limitée |
L'impact décrit la conséquence concrète (pour les personnes, la conformité, le marché), pas une répétition du constat.
Vérifie que tu as compris
Quelle colonne de la synthèse décrit la conséquence concrète de la non-conformité ?
Remonter à la cause racine
L'atelier 4 demande la cause racine via les « 5 Pourquoi » ou un diagramme d'Ishikawa.
- Pourquoi n'y a-t-il pas d'analyse de biais ? Parce que personne n'a été chargé de la qualité des données.
- Pourquoi ? Parce qu'il n'y a pas de procédure de gouvernance des données.
- Pourquoi ? Parce que le SMQ n'existe pas.
Cause racine : absence de SMQ couvrant la gestion des données (exemple de l'atelier : « Absence de procédure de gouvernance des données dans le SMQ »). Corriger seulement le symptôme (faire une analyse de biais) sans traiter la cause laisserait revenir le problème au prochain jeu de données.
Vérifie que tu as compris
Quelle est la meilleure cause racine pour l'absence d'analyse de biais ?