Partie 1 · AI Act
Les systèmes à haut risque
(hors fiches : règlement) Un système est à haut risque par deux voies :
- Annexe I : le système est un composant de sécurité d'un produit déjà réglementé (dispositifs médicaux, jouets, machines...) ou est lui-même un tel produit, et ce produit exige une évaluation de conformité par un tiers ;
- Annexe III : le système est utilisé dans un domaine listé (biométrie, infrastructures critiques, éducation et formation, emploi et gestion des travailleurs, services essentiels, répression, migration et frontières, justice et processus démocratiques).
Pour l'Annexe III, une dérogation existe si le système ne présente pas de risque significatif (ex. tâche procédurale étroite), mais un système qui réalise du profilage de personnes physiques reste toujours à haut risque.
Trois fiches, trois façons d'être haut risque
| Système | Indices de la fiche | Voie |
|---|---|---|
| TalentRank AI | Secteur RH, présélection et classement de candidats, score 0 à 100 ; la fiche du dossier technique revendique « Annexe III, point 4 » | Annexe III (emploi) |
| MediScan AI | Aide au diagnostic ; présenté comme dispositif médical de classe IIa (MDR 2017/745) avec organisme notifié | Annexe I (produit réglementé + tiers) |
| ExamSecure AI | Éducation ; surveillance et détection de comportements interdits pendant les examens ; Annexe III point 3 | Annexe III (éducation) |
Remarque sur la fiche ExamSecure : elle cite le « point 3(a) » ; à ma connaissance (hors fiches), la formule « surveiller et détecter des comportements interdits pendant des tests » correspond au point 3(d) du texte final. Retiens surtout le domaine : point 3 = éducation. La fiche précise aussi : contrôle interne (Annexe VI), pas d'organisme notifié.
Le score de TalentRank est utilisé « comme principal critère de présélection » : même si le recruteur peut passer outre, en pratique les candidats mal classés sont rarement examinés. L'humain « dans la boucle » n'enlève pas le haut risque.
Vérifie que tu as compris
Vérifie que tu as compris