Partie 3 · AI Act
Cas ExamSecure AI : dossier et classement
Atelier 5 : compléter le dossier technique d'ExamSecure AI (SecureTest Solutions, v2.0). Données de la fiche :
- Fonctions : vérification d'identité par reconnaissance faciale, regard et position de la tête, personnes supplémentaires, sons suspects, applications non autorisées, alertes en temps réel, rapport horodaté ;
- Haut risque, Annexe III point 3 (éducation), contrôle interne (Annexe VI) ;
- Données : vidéo, audio, biométrie faciale, activité d'écran, données personnelles, données d'examen ;
- Modèles : vision (visage, regard, présence), audio, classification des alertes ; cloud (AWS ou Azure) ; interface web pour superviseurs.
| Section du dossier | Que renseigner pour ExamSecure ? |
|---|---|
| 1 Description | Destination : surveillance d'examens ; interface superviseur ; notice |
| 2 Développement | Trois modèles ; données vidéo, audio, biométriques ; jeux de données |
| 3 Surveillance et contrôle | Alertes en temps réel, superviseur qui invalide, logs |
| 4 Métriques | Précision, robustesse, performance par sous-groupe (éclairage, handicap, accent...) |
| 5 Risques | Fausses accusations de fraude, biais, atteinte à la vie privée |
| 8 Déclaration et post-marché | Contrôle interne, enregistrement UE, incidents |
Vérifie que tu as compris
Pour ExamSecure, quelle métrique de la section 4 sert à détecter des biais ?
Classement à justifier : surveillance d'examens = éducation, Annexe III. Attention aux interdits : l'analyse des émotions des étudiants serait une pratique interdite en éducation (hors fiches : règlement) ; ExamSecure analyse regard, tête, sons et applications, pas les émotions, mais un audit vérifie que ce n'est pas le cas des évolutions futures.
Vérifie que tu as compris
Quel ajout futur rendrait problématique ExamSecure au regard des pratiques interdites (hors fiches) ?