Questions

La question

M. Ugo Bernalicis interroge M. le ministre de l'Europe et des affaires étrangères sur la généralisation des dispositifs de vidéosurveillance algorithmique (VSA) et des logiciels de reconnaissance faciale dans les politiques publiques de sécurité, alors qu'elle représente dans ce domaine une menace croissante pour les libertés publiques. Jusqu'où le Gouvernement est-il prêt à aller dans la généralisation de l'intelligence artificielle sécuritaire, au risque de transformer l'exception en norme, la prévention en surveillance de masse et l'État de droit en État algorithmique ? M. le député est d'autant plus inquiet que cette bataille industrielle et technologique prend de l'intensité au niveau international, en particulier entre la Chine et l'Amérique de Trump. Le développement de l'intelligence artificielle dans le domaine si particulier des libertés publiques au nom de la sécurité prend des relents autoritaires et préfigure une société dystopique. La vidéosurveillance algorithmique (VSA) avait été instaurée en mai 2023 dans le cadre de la loi relative aux Jeux Olympiques et Paralympiques, à titre expérimental. Ce dispositif a suscité dès l'origine des critiques, quant à son impact sur les libertés individuelles et collectives. Sous prétexte d'un caractère expérimental et donc temporaire, le Gouvernement a tenté de le pérenniser en l'intégrant, via un amendement, à un projet de loi portant sur le renforcement de la sûreté dans les transports, repoussant ainsi son échéance jusqu'en 2027. Cette tentative de banalisation de mesures d'exception a été a nouveau dénoncé sur le fond et sur la forme. Cette volonté de prolongation a finalement été censurée par le Conseil constitutionnel le 24 avril 2025, au nom du respect des principes fondamentaux. Un rapport remis au ministère de l'intérieur au début de l'année 2025 a dressé déjà un bilan mitigé de l'utilisation de la VSA, pointant notamment les effets limités sur la sécurité, mais surtout alertant sur les risques importants en matière de protection de la vie privée et de surveillance de masse. En parallèle de ces tentatives, le gouvernement d'Emmanuel Macron, a dès la fin de l'année 2022, en secret, agi pour introduire dans la loi européenne sur l'IA (dite « IA Act ») la possibilité d'utiliser la reconnaissance biométrique, en temps réel, dans l'espace public s'il estime que la « sécurité nationale » est en jeu, le maintien de l'ordre en faisant partie. En effet, selon le média d'investigation Disclose ( https://disclose.ngo/fr/article/intelligence-artificielle-la-france-ouvre-la-voie-a-la-surveillance-de-masse-en-europe ), le 18 novembre 2022, au cours d'une réunion organisée à huis clos avec ses homologues européens, les journalistes rapportent que le représentant français prévient, selon le compte-rendu en leur possession : « L'exclusion des questions de sécurité et de défense [du cadre du règlement] doit être maintenue à tout prix ». De même, un courrier du secrétariat général pour les affaires européennes, repris par la presse, énonce clairement qu'« il est très important de préserver la possibilité de rechercher une personne sur la base de critères objectifs exprimant une croyance religieuse ou une opinion politique », faisant ainsi le lien avec l'utilisation de la vidéosurveillance algorithmique en temps réel en recherchant des personnes sur la base de ces critères « notamment le port d'un badge ou d'un accessoire ». M. le député s'inquiète et dénonce vivement cette obsession ultra-sécuritaire et le rôle du Gouvernement dans sa volonté de peser diplomatiquement au niveau européen pour persuader les autres pays de l'Union européenne de déroger pour la sécurité nationale à l'interdiction de l'usage de l'IA comme « risques inacceptables » pour distinguer « sur la base de la race, opinions politiques, affiliation à une organisation syndicale, convictions religieuses ou vie sexuelle ». En outre, l'influence croissante des acteurs privés dans l'élaboration de ces dispositifs technologiques se fait sentir dans un domaine régalien aussi sensible et stratégique que les libertés publiques. Ce lobbying intense de certaines entreprises spécialisées dans la surveillance algorithmique et la reconnaissance biométrique pointe la dépendance de l'État à l'égard de ceux-ci et interroge sur les véritables motivations derrière la généralisation de la VSA. Ainsi, dans les discussions entourant l' AI Act , est pointé le rôle de l'entreprise Mistral AI et en particulier par Cédric O, un proche du Président de la République et ancien secrétaire d'État au numérique. Plusieurs sources journalistiques font état du rôle déterminant de Mistral AI pour obtenir des exemptions favorables à ses intérêts et la présence de Cédric O, cofondateur de l'entreprise et ancien membre du Gouvernement, renforce les suspicions de conflits d'intérêts et d'interférences dans le processus démocratique européen. Cette porosité entre sphère politique et secteur technologique alimente la crainte exprimée par M. le député d'une captation des politiques de sécurité par des logiques marchandes, au détriment des principes démocratiques et des libertés fondamentales. Au regard des éléments précis exposés ci-dessus et des inquiétudes légitimes formulées, M. le député souhaite obtenir des clarifications suivantes : quelles sont les intentions du Gouvernement sur la prolongation de l'utilisation de la VSA et de la généralisation des logiciels de reconnaissance faciale, au regard des doutes quant à leur efficacité et les risques pesant sur les droits et libertés fondamentales ; quel a été le niveau d'échange avec le secteur privé dans la préparation et la fixation des positions de la France dans le cadre des négociations relatives à l' IA Act ; quelles sont les entreprises qui ont été associées à la discussion et quel ont été leur rôle.

Réponse

Le règlement n° 2024/1689 du 13 juin 2024 concernant l'intelligence artificielle (IA) établit des règles harmonisées et met en place une vision européenne de l'intelligence artificielle. Ce règlement pionnier à l'échelle mondiale se caractérise par une approche selon le risque. En premier lieu, le règlement sur l'IA interdit purement et simplement les pratiques les plus dangereuses en matière d'IA (article 5 du règlement), parmi lesquelles sont clairement identifiées des atteintes graves aux libertés et à la dignité, telles que le recours à des techniques subliminales ou manipulatrices, l'exploitation de vulnérabilités des personnes, la reconnaissance des émotions sur le lieu de travail, la notation sociale, ou encore la prédiction du risque de commission d'une infraction. Le non-respect de l'interdiction des pratiques en matière d'IA fait l'objet de sanctions lourdes définies à l'article 99 : des amendes administratives pouvant aller jusqu'à 35 millions d'euros pour une personne ou jusqu'à 7 % du chiffre d'affaires annuel mondial pour une entreprise. En second lieu, l'utilisation de systèmes d'IA dans un cadre de sécurité intérieure est strictement encadrée par le règlement sur l'IA. D'une part, l'utilisation de systèmes d'identification biométrique à distance « a posteriori » nécessite l'autorisation d'une autorité judiciaire ou administrative dont la décision est contraignante et soumise à un contrôle juridictionnel (article 26). D'autre part, l'utilisation de systèmes d'identification biométrique à distance « en temps réel » est soumise à des garanties procédurales importantes et ne peut être déployée que lorsqu'elle est strictement nécessaire à : la recherche de personnes disparues, enlevées ou victimes de la traite ; la prévention d'une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique de personnes physiques ou d'une menace réelle et actuelle ou réelle et prévisible d'attaque terroriste ; une enquête pénale, l'engagement de poursuites ou l'exécution d'une sanction pénale pour des infractions suffisamment graves (punissables dans l'État membre concerné d'une peine ou d'une mesure de sûreté privatives de liberté d'une durée maximale d'au moins quatre ans). En dernier lieu, les systèmes d'IA utilisés à des fins militaires, de défense ou de sécurité nationale sont exclus du champ d'application du règlement sur l'IA car un acte juridique de l'Union européenne ne saurait règlementer l'exercice par les Etats membres de leurs missions régaliennes essentielles (assurer son intégrité territoriale, de maintenir l'ordre public et de sauvegarder la sécurité nationale), en application de l'article 4 du Traité sur l'Union européenne. En revanche, si un système d'IA développé ou utilisé à des fins militaires, de défense ou de sécurité nationale est utilisé en dehors de ce cadre à d'autres fins, alors il relèvera du règlement sur l'IA.

La question

M. Ugo Bernalicis alerte M. le ministre de l'intérieur sur l'encadrement des données pouvant être recueillies par les « fichiers des résidents des zones de sécurité ». Le ministère de l'intérieur a pris un arrêté unique le 3 mai 2024 portant refonte de l'arrêté du 2 mai 2011 relatif aux traitements automatisés des données à caractère personnel dénommés « fichiers des résidents des zones de sécurité » créés à l'occasion d'un évènement majeur. Celui-ci octroie au directeur général de la police nationale, au directeur général de la gendarmerie nationale et au préfet de police de Paris des pouvoirs exorbitants du droit commun, à savoir l'autorisation de mise en œuvre des traitements de données de ces fichiers (article 1), en vue de l'élaboration du laissez-passer pour accéder aux zones définies préalablement par les autorités. Ainsi, pour circuler aux abords de la Seine de la rive droite à la rive gauche, du 13 au 26 juillet 2024, tous les citoyens ont eu donc l'obligation de s'enregistrer sur la plateforme de traitement en fournissant non seulement leur nom et prénom, mais aussi notamment photographie, justificatif de domicile et motifs d'un tel déplacement. En ce sens, M. le député partage les inquiétudes énoncées dans la délibération de la Commission nationale de l'informatique et des libertés (CNIL) du 25 avril 2024 portant sur le projet d'arrêté. Celle-ci relève que l'article 4 de l'arrêté précise les conditions d'accès et les destinataires des données, mais qu'aucun article n'encadre l'utilisation de ces données personnelles ; M. le député y voit une atteinte au droit à la vie privée d'autant plus inquiétante que cette collecte de données se déploie de manière concomitante à la vidéo surveillance automatisée (VSA). En outre, si l'arrêté ne rend finalement pas obligatoire la collecte des photographies, sa mise en place relève cependant de l'entière discrétion des autorités compétentes. Enfin, la durée de conservation de ces données (exceptées les pièces d'identité) s'étend bien au-delà de la fin des JOP, jusqu'au 3 décembre 2024, ce qui interroge M. le député sur l'usage ultérieur de ces bases de données. Cette même inquiétude a d'ailleurs été portée par Pierre-Eugène Burghardt, avocat au Barreau de Paris, à travers un article publié le 21 mai 2024 sur le site internet « Actu-Juridique » dans lequel il s'inquiétait de la régression des libertés individuelles à l'occasion des jeux Olympiques et Paralympiques 2024. Il dénonce l'instrumentalisation des JOP en tant que phase de test visant à préparer la société de contrôle voulue par le Gouvernement : caméras intelligentes, QR code , traçage et justification des déplacements puisque, pour les autorités chargées de la sécurité publique, toute action du citoyen, tout propos, tout déplacement est par nature suspect. Par ailleurs, M. le député relève que l'article 8-1 du décret entend étendre ces dispositions à l'ensemble du territoire national, y compris en Nouvelle-Calédonie, alors que ne s'y déroule aucune épreuve, laissant présager de la part du Gouvernement une volonté de pérennisation à l'issue des JOP. M. le député considère que le précédent ainsi créé est dangereux compte tenu de la récurrence à laquelle surviennent de grands évènements sportifs, dans la mesure où il existe un risque important que les conditions de collecte de ces données sensibles soient ultérieurement détournées à d'autres fins. Ainsi, il aimerait savoir dans quelle mesure M. le ministre entend confier l'évaluation a posteriori de l'usage de ce dispositif à une inspection indépendante et en publier le rapport ; tenir compte des recommandations formulées dans la délibération de la CNIL (précisions sur les conditions de réalisation des enquêtes administratives, limitation explicite de la collecte de la photographie aux évènements de cette ampleur) ; préciser les perspectives d'utilisation des données collectées et l'encadrement de cet usage en lien avec une conservation des données postérieure aux JOP ; confirmer ou infirmer la pérennisation du dispositif sur des évènements ultérieurs.

Réponse

L'arrêté du 2 mai 2011 relatif aux traitements automatisés de données à caractère personnel dénommés « fichiers des résidents des zones de sécurité » créés à l'occasion d'un événement majeur a pour finalité la gestion des titres permettant l'accès des personnes ou des véhicules aux zones à l'intérieur desquelles sont apportées des restrictions à la libre circulation et à l'exercice de certaines activités, afin de prévenir les troubles à l'ordre public et de garantir la sécurité d'un événement majeur. Cet arrêté constitue un acte-cadre au sens du IV de l'article 31 de la loi dite « informatique et libertés ». Il n'est pas spécifique au traitement mis en œuvre par la préfecture de police à l'occasion des jeux Olympiques et Paralympiques, mais autorise de manière générale la direction générale de la police nationale, la direction générale de la gendarmerie nationale et la préfecture de police à mettre en œuvre des traitements dans le respect du cadre qu'il fixe, après envoi d'un engagement de conformité à la CNIL. Ainsi, chacun de ces responsables de traitement peut mettre en œuvre tout ou partie du traitement autorisé par cet acte réglementaire. La modification de cet arrêté, et notamment l'extension des données à caractère personnel dont il autorise la collecte, a été rendue nécessaire par le dispositif particulier mis en place pour garantir la sécurité des jeux Olympiques et Paralympiques de 2024. En effet, le préfet de police de Paris a institué, à cette occasion, plusieurs périmètres autour de la cérémonie d'ouverture et des compétitions sportives au sein desquels des restrictions à la circulation des personnes et des véhicules ont été apportées, en particulier un périmètre de protection au sens de l'article L. 226-1 du code de la sécurité intérieure. Par conséquent, le respect de certains de ces périmètres, et notamment de ce dernier, s'est appuyé sur un dispositif de « laissez-passer » dématérialisé destiné à permettre aux riverains et aux personnes ayant un motif légitime d'y accéder, à la condition de s'être préalablement enregistré sur la plateforme dédiée. Ainsi, l'arrêté du 3 mai 2024 prévoit la collecte de la photographie de la personne et la copie du titre d'identité pour permettre de sécuriser la délivrance du « laissez-passer ». En outre, afin de permettre à la préfecture de police de statuer sur les demandes d'accès, il a été prévu l'enregistrement des pièces justificatives et de la copie du certificat d'immatriculation fournies par les usagers. Les évolutions induites par cet arrêté ne remettent pas en cause le cadre et les caractéristiques essentielles du dispositif qui existait jusqu'à présent, mais les ont adaptés aux circonstances particulières liées à l'organisation des jeux Olympiques et Paralympiques de 2024. En outre, le ministère de l'intérieur a pris en compte les demandes de la CNIL en entourant ces évolutions de garanties destinées à assurer une conciliation équilibrée entre, d'une part, la sécurité de cet évènement majeur, et, d'autre part, le droit au respect de la vie privée des personnes. En effet, comme l'indique l'article 2 de l'arrêté du 2 mai 2011, les catégories de données listées « peuvent » être collectées. Si une collecte de la photographie a eu lieu lors des jeux Olympiques et Paralympiques compte tenu du volume significatif de personnes accédant aux périmètres, cela ne sera pas nécessairement le cas pour l'ensemble des « fichiers des résidents des zones de sécurité » qui seront mis en œuvre ultérieurement sur le fondement de cet arrêté. Ces fichiers ne collectent aucune donnée « sensible » au sens de l'article 6 de la loi du 6 janvier 1978 précitée et les personnes mineures de moins de treize ans ne sont pas soumises au dispositif de « laissez-passer ». En outre, l'arrêté prévoit une durée de conservation réduite pour la copie du titre d'identité, qui est uniquement conservée jusqu'à la délivrance du titre d'accès ; en tout état de cause, la durée de trois mois prévue par l'article 3 de l'arrêté du 2 mai 2011 est une durée maximale. D'ailleurs, le Conseil d'Etat a validé au contentieux l'arrêté du 3 mai 2024 précité, jugeant qu'il ne porte pas d'atteinte disproportionnée au respect de la vie privée et familiale « eu égard, notamment, aux finalités de protection de l'ordre public et de la sécurité à l'occasion d'un événement majeur poursuivies lors de la création d'un fichier des résidents des zones de sécurité, à la brièveté de la durée de conservation des données collectées, à l'utilité de l'accès des différentes catégories de personnes autorisées aux données collectées et à la stricte limitation de cet accès à leur seul besoin d'un connaître » (décision n° 495220 du 25 juillet 2024, considérant 17).

La question

M. Ugo Bernalicis interroge M. le garde des sceaux, ministre de la justice, sur le recours par le ministère à des sociétés d'audit. En décembre 2020, l'école nationale de la magistrature (ENM) a décidé d'avoir recours à une société d'audit pour élaborer sa stratégie pour les prochaines années. Cet appel d'offres portait sur un montant maximal de 90 000 euros HT (108 000 euros TTC) et devait permettre, pour le 31 juillet 2021, d'« accompagner la direction de l'école dans la déclinaison opérationnelle des grandes orientations stratégiques retenues », en élaborant « un catalogue et un calendrier de mesures concrètes de mise en œuvre de celles-ci ». Plus de 6 mois après cette date butoir, aucune des missions de cet audit n'a été réalisée. Pire, la société d'audit a cessé d'assumer ses fonctions et l'école élabore, seule, les orientations stratégiques pour les années à venir. Pourtant, la société d'audit a effectivement perçu l'intégralité des sommes demandées. L'une des spécificités de cet appel d'offres est qu'il est entouré par une certaine publicité. Ce n'est pas le cas d'autres hypothèses où le ministère a recours à des sociétés d'audit : ainsi de l'organisation des états généraux de la justice, où se sont succédés différents prestataires sans grande publicité le ministère ayant opportunément eu recours à des accords-cadres ministériels ou interministériels, ou bien à des achats ponctuels et non-récurrents d'un montant inférieur à 40 000, par le biais d'un découpage des diverses prestations ; de même du domaine informatique, où le recours à différentes sociétés d'audit et de prestataires ne s'est pas avéré fructueux - preuve en est du récent rapport de la Cour des comptes sur le sujet ; enfin du recours très fréquent des cabinets spécialisés sur la qualité de vie au travail ou les risques psychosociaux. Ces quelques sujets sont ceux où la présence de cabinets d'audit peut être identifiée par des acteurs extérieurs. Cela ne signifie nullement que ce soit une liste exhaustive. Ces tendances sont symptomatiques de la tendance décrite dans l'ouvrage de Matthieu Aron et Caroline Michel-Aguirre du recours de plus en plus fréquent aux cabinets d'audit et concernent l'ensemble des branches de l'action de l'État. Il semble à M. le député néanmoins évident que si « la Société a le droit de demander compte à tout agent public de son administration », ce droit concerne également le droit de demander à l'administration un compte rendu exhaustif des dépenses qui ont été engagées, surtout lorsqu'il s'agit pour l'administration de déléguer à des sociétés de conseil la définition d'une politique publique, notamment lorsque c'est une mission par essence régalienne. En conséquence, il lui demande que soit précisé l'ensemble des dépenses engagées par le ministère, ainsi que les opérateurs publics qui en dépendent, pour le recours à des cabinets de conseil pour l'année 2021, l'année 2022, l'année 2023 ainsi que pour l'année 2024 (qu'il s'agisse de recours lancés ou de simples projets) ainsi que les différents domaines affectés.

Réponse

La société d'audit retenue par l'École nationale de la magistrature (ENM) afin d'élaborer sa stratégie pour les prochaines années a dûment rempli ses obligations suite à l'appel d'offre émis. En effet, de janvier 2021 à janvier 2023, le prestataire retenu a permis d'aider et accompagner la direction de l'ENM dans l'écoute, le dialogue et la définition progressive des grandes lignes de la réforme de l'École, et pour élaborer des pistes d'évolutions concrètes pour l'aider à mieux remplir ses missions. Les avancées de cet audit ont été évoquées à chaque conseil d'administration de l'ENM sur la période. L'audit a abouti à 12 grandes propositions pertinentes d'évolution, partagées avec l'ensemble des acteurs. Plus de la moitié de ces propositions a d'ores et déjà été mise en œuvre. Les autres sont intégrées dans les travaux en cours pour être appliquées dès que possible. Concernant le recours au conseil extérieur, et conformément aux différentes directives [1] [2] [3], il n'en est fait usage que dans des cas bien précis, à savoir : Acquérir des compétences et expertises dont l'administration ne dispose pas à un instant donné pour mettre en œuvre les transformations attendues de nos concitoyens ; Faire face à un besoin ponctuel en expertises complémentaires dans la conduite d'un projet lorsque les capacités des services ne permettent pas d'absorber la charge nécessaire à sa mise en œuvre dans les délais impartis ; Eclairer les décideurs publics d'un regard extérieur afin d'intégrer les innovations identifiées dans d'autres pays ou dans le secteur privé. D'un point de vue financier, les dépenses engagées par le ministère pour le recours à des cabinets de conseil ont été sensiblement réduites depuis 2021 et se répartissent par type d'intervention comme suit : Nature de la prestation de conseil 2024 2023 2022 2021 Conseil communication 90 216 € 79 972 € 37 593 € 23 739 € Audit comptes financiers 11 266 € 14 280 € 58 320 € 33 246 € Conseil stratégique en organisation 378 744 € 565 981 € 2 072 394 € 2 928 901 € Conseil recrutement RH - 252 771 € 54 820 € 24 974 € 38 751 € Conseil métier 451 538 € 306 949 € 1 049 405 € 1 454 269 € Conseil expertise juridique 500 879 € 950 821 € 863 211 € 689 090 € Conseil expertise assurance 105 861 € 64 050 € 4 682 € 3 891 € Etude technique métier 164 290 € 107 731 € 0 € 0 € TOTAL 1 702 794 € 2 144 604 € 4 110 579 € 5 171 886 € [1] Circulaire du Premier ministre n° 6329/SG du 19 janvier 2022 ; [2] Circulaire ministérielle du 31 mars 2022 relative à l'encadrement du recours aux prestations intellectuelles et à la mise en place d'un CME pour les prestations de conseil relevant des ACIM de la DITP ; [3] Note ministérielle du 13 juillet 2023 portant actualisation de la circulaire du 31 mars 2022 avec un nouveau plafond d'AE réduit.