Les pratiques interdites

(hors fiches : règlement) L'article 5 liste des pratiques interdites, car jugées contraires aux valeurs de l'Union. Les principales :

• manipulation subliminale ou trompeuse qui altère le comportement et cause un préjudice ;
• exploitation des vulnérabilités (âge, handicap, situation sociale) ;
• notation sociale (social scoring) ;
• évaluation du risque de commettre une infraction fondée uniquement sur le profilage ;
• constitution de bases de reconnaissance faciale par moissonnage non ciblé d'images (internet, vidéosurveillance) ;
• reconnaissance des émotions sur le lieu de travail et dans l'éducation (sauf raisons médicales ou de sécurité) ;
• catégorisation biométrique déduisant des attributs sensibles (opinions, origine, orientation...) ;
• identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives, sauf exceptions strictement encadrées.

Cas : SafeCity Vision

La fiche : caméras dans les rues, places et gares ; détection des visages en temps réel ; comparaison à une base de personnes recherchées ; alerte des opérateurs ; identification à distance sans participation active ; déployeur : municipalité avec les forces de l'ordre ; finalité : prévention et lutte contre la criminalité.

Chaque indice correspond à la pratique visée : biométrique (gabarits faciaux), à distance, temps réel, espace public, finalité répressive. Le système relève donc de la catégorie interdite.

(hors fiches : règlement) L'interdiction admet trois exceptions strictement encadrées : recherche de victimes (enlèvement, traite, disparition), prévention d'une menace spécifique pour la vie ou d'une attaque terroriste, localisation de suspects d'infractions graves. Elles exigent notamment une autorisation préalable d'une autorité judiciaire ou administrative indépendante. « Prévention de la criminalité » en général ne suffit donc pas.