Vidéosurveillance algorithmique : les solutions des étudiants de l’Incubateur de politiques publiques pour la CNIL

Régis Chatellier : au départ, le défi proposé aux étudiants ne portait pas spécifiquement sur les JO de Paris 2024, mais sur les défis en termes d’information, transparence et droit des personnes face au recours à des technologies « sans contact », par le biais de caméras, ou de différents capteurs. Ces technologies peuvent être utilisées dans différents domaines, par des acteurs privés, ou publics. Les étudiants ont choisi de centrer leurs travaux sur le recours aux caméras de surveillance algorithmique (VSA) qui font l’objet d’une expérimentation inédite lors des Jeux Olympiques 2024.

Cette actualité en effet occupe les services de la CNIL qui a, dès juillet 2022, publié sa position sur les « caméras dites « augmentées » dans les espaces publics. Elle s’est ensuite prononcée le 8 décembre 2022 sur le projet de loi relatif aux Jeux olympiques et paralympiques de 2024, rappelant notamment que « le recours à ces dispositifs soulève des enjeux nouveaux et substantiels en matière de vie privée », que  « ces outils d’analyse des images peuvent conduire à une collecte massive de données personnelles et permettent une surveillance automatisée en temps réel ». Elle ajoutait enfin que « le déploiement, même expérimental, de ces dispositifs constitue un tournant qui va contribuer à définir le rôle général qui sera attribué à ces technologies, et plus généralement à l’intelligence artificielle. »

La liberté d’aller et venir et le respect des droits des personnes sont des sujets clés pour la CNIL. Il était intéressant de proposer ces sujets à des étudiants de Sciences Po qui ont pu l’aborder avec un œil neuf, de façon complémentaire aux travaux déjà effectués à la CNIL. 

Groupe étudiant : Pour mieux comprendre les enjeux des technologies invisibles et sans contact pour les citoyens et identifier leurs besoins concrets, nous avons mené des entretiens dans des lieux de passage potentiellement concernés par ces technologies. Nous avons par exemple interrogé une quarantaine de voyageurs à la gare de Lyon, en questionnant leur rapport aux caméras de vidéosurveillance et en évaluant leurs connaissances sur leurs droits en matière de données personnelles. 

Un autre moment fort fut notre immersion à l'Accor Arena de Bercy à Paris, où se déroulait le concert de Depeche Mode en mars 2024. Cet événement était le premier terrain d’expérimentation des caméras de surveillance algorithmique (VSA) opérée par la Préfecture de Police. Ce fut l’occasion d’interroger les spectateurs de façon beaucoup plus précise sur la VSA, leur connaissance de l’expérimentation et des enjeux supplémentaires que représente cette technologie par rapport à la seule caméra de surveillance. Tous ces entretiens nous ont permis de constater un manque général de connaissance des individus sur leurs droits en matière de protection des données personnelles, une difficulté à comprendre le fonctionnement des caméras de surveillance algorithmique (VSA) et leur différence avec les caméras biométriques de reconnaissance faciale, ainsi qu'une inefficacité des dispositifs d'information actuels dans l'espace public.

En parallèle de ces immersions terrain, nous avons mené des entretiens avec des universitaires et des professionnels afin d'affiner nos recherches et d'intégrer leurs travaux dans nos réflexions. Nous avons interrogé des membres d'associations telles qu'Amnesty International, des représentants de la CNIL, des acteurs politiques comme les délégués au numérique de grandes métropoles ainsi que des Délégués à la Protection des Données (DPO). Ces échanges nous ont permis de comprendre les procédures concrètes mises en place pour répondre aux demandes d'accès aux données personnelles des usagers et d’intégrer cela dans la conception de nos solutions. 

R. Chatellier : La participation au programme de l’IPP présente plusieurs intérêts pour la CNIL, et le laboratoire d’innovation numérique de la CNIL. Tout d’abord, il s’agit chaque année de proposer un défi à la fois ambitieux et concret aux étudiants (nous n’en manquons pas à la CNIL !), dans des termes qui ne relèvent pas seulement d’une question d’analyse juridique. Dans un deuxième temps, l’organisation des journées d’immersion en janvier permet de mobiliser en interne sur le sujet abordé, mais aussi de faire intervenir des participants extérieurs, et ainsi créer un temps fort autour de la thématique à traiter. Enfin, la manière dont se déroule le travail, le fait que la CNIL ne soit pas commanditaire est vraiment intéressant car cela donne de la liberté aux étudiants, pour réfléchir et concevoir « out of the box », à partir des différents échanges, rencontres et points de vue auxquels ils sont confrontés. Cela donne des résultats très pertinents, qui ont été appréciés des équipes de la CNIL lorsqu’ils ont été présentés assez largement en juin 2024. 

Groupe étudiant : Nous avons conçu un ensemble de cinq solutions complémentaires pour informer efficacement les citoyens de la présence et du fonctionnement de la vidéosurveillance augmentée (VSA) dans l'espace public et pour garantir leurs droits associés.

Tout d’abord, nous avons imaginé une vidéo diffusée sur des panneaux publicitaires qui explique le fonctionnement des caméras augmentées, leurs particularités, leurs risques, et informe les citoyens sur leurs droits en matière de protection des données. En complément, nous avons créé une affiche et un SMS explicatif pour détailler la présence de ces caméras et les droits des usagers prévus par la loi. Pour assurer une visibilité claire et immédiate, nous avons également imaginé l'installation d'un ballon suspendu arborant le pictogramme “VSA”. Ce ballon signale à distance les zones couvertes par les caméras augmentées, tout en s’inscrivant dans le contexte événementiel des Jeux Olympiques.

Enfin, pour aller plus loin et garantir les droits d'accès et d’effacement des données, nous avons développé le site “Mes Données Persos”. Ce site a pour objectif d’uniformiser la procédure d’exercice des droits en matière de données personnelles au niveau national et de faciliter la communication entre les citoyens et les Délégués à la Protection des Données, responsables de la réponse aux demandes des usagers concernant leurs données personnelles. Ce site permet à chaque citoyen présent dans une zone concernée par l’expérimentation d'effectuer, s’il le souhaite, une demande rapide après avoir été informé des droits dont il dispose.

Vidéo de présentation des solutions des étudiants :

R. Chatellier : En effet, l’expérimentation fait partie des grandes missions du LINC. Il s’agit pour nous de tester et expérimenter certaines technologies, proposer des solutions basées sur les méthodologies du design, voire développer une plateforme dédiée au design des interfaces. Notre champ d’expérimentation est large. Permettre aux étudiants de se former à ces méthodologies est important, tant cela leur permet de se confronter à des nouvelles manières de faire, partir du terrain et des expériences des citoyens. Cela pourra leur être utile dans leur parcours professionnel, à l’heure où les acteurs publics s’ouvrent à des approches différentes.  

Groupe étudiant : Au cours du semestre, notre travail a été partagé en trois temps. Les entretiens usagers, l'apprentissage théorique des notions et concepts du design de politiques publiques et la mise en pratique de ces connaissances lors de séances en autonomie, propices au foisonnement des idées et au débat éclairé par les conseils précieux de notre tuteur Hugo Poirier sans qui ce projet n'aurait pas été possible.

Deux moments ont été particulièrement déterminants dans notre projet. Le premier a été bien sûr l'immersion au sein du Laboratoire d'innovation de la CNIL (LINC) qui nous a transmis une certaine vision de la défense des libertés publiques. Nous avons également eu la chance de rencontrer des acteurs importants du secteur comme la sûreté ferroviaire, impliquée dans l'expérimentation de la VSA. Ce qui est intéressant c'est que nous avons eu l'occasion de les rencontrer à nouveau après la fin de l'IPP pour leur présenter et échanger sur nos solutions. C’est grâce à ces rencontres que nous sommes encore en mesure de poursuivre le projet aujourd'hui, même après la fin de l’IPP !

Le second élément est la dimension très professionnalisante de l’IPP par rapport à un enseignement plus classique à Sciences Po. Mener un projet en équipe sur le temps long, rencontrer et recueillir l'opinion des usagers, interagir et collaborer avec des professionnels ou encore passer de l'idéation au prototypage, sont autant de compétences qui nous seront indispensables lorsque nous serons amenés dans le futur à concevoir et mettre en place des politiques publiques qui visent le bien commun.

R. Chatellier : Il est trop tôt à ce stade pour savoir ce qu’il restera de cette expérimentation de la vidéo algorithmique mais la CNIL a eu l’occasion d’alerter sur les risques d’effet cliquet associés à l’expérimentation de certaines technologies. C’est-à-dire qu’une fois installées, on prend le risque que celles-ci ne soient jamais démontées. C’est pour cette raison que, dans son avis de 2022, la CNIL a demandé qu'un rapport d’évaluation soit produit par des experts indépendants « dans un délai maximum de six mois avant le terme de l’expérimentation », présentant des résultats au regard des performances techniques, des besoins ou objectifs opérationnels, mais aussi des impacts sociétaux. Au moment de cette interview, l’expérimentation est en cours et la CNIL vigilante, elle a annoncé très tôt qu’elle procèdera à des contrôles avant, durant et à l’issue des Jeux olympiques et paralympiques. 

Groupe étudiant : Une fois ces mesures d’urgences et d’exception introduites, il est en effet rare qu’elles soient retirées. Par exemple, les JO de Tokyo en 2021 ont permis de fortes restrictions de libertés au nom de la lutte anti-terroriste avec la création de nouveaux crimes. La nouvelle législation a notamment interdit les “sit-in” militants qui empêchent la construction de bâtiments. Aujourd’hui la police japonaise utilise quotidiennement la VSA. Des acteurs privés comme des restaurants ou des supermarchés le font aussi. De son côté, le Royaume-Uni permet à la police londonienne d’utiliser de la reconnaissance faciale pour arrêter les profils suspects. La Chine est un autre exemple très connu et plus radical de la sécurisation par la technologie de l’espace public au mépris des libertés individuelles. 

Ce projet nous a permis de nous rendre compte de la nécessité d’un débat démocratique sur l’usage de ces technologies pour éviter que des acteurs sans légitimité politique les mettent en place.