Questions

La question

Mme Léa Balage El Mariky appelle l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique, sur les dérives de l'intelligence artificielle générative, en particulier dans le cadre des deepfakes et des montages d'images de personnes réelles. Ces outils permettent aujourd'hui de générer, facilement et gratuitement, l'image d'une personne réelle dans une tenue ou une posture dégradante, ou dans une situation destinée à la tourner en dérision. Cette facilité d'accès en fait un instrument d'humiliation et de harcèlement à très grande échelle. Les témoignages se multiplient sur les réseaux sociaux de personnes, et très majoritairement de femmes, dont les photographies ont été détournées au moyen de ces outils pour les humilier ou les décrédibiliser. Les associations féministes alertent depuis plusieurs mois sur ce phénomène et demandent que la génération d'images représentant des êtres humains soit interdite. Ainsi, elle lui demande quelles mesures le Gouvernement entend prendre pour lutter contre ces usages, et en particulier s'il a l'intention d'encadrer, voire d'interdire, la génération d'images de personnes réelles par les systèmes d'intelligence artificielle, quelles obligations pourraient être imposées aux éditeurs de ces outils et aux plateformes de diffusion, et par quels moyens les victimes pourraient obtenir un retrait rapide des contenus.

La question

Mme Léa Balage El Mariky appelle l'attention de M. le ministre du travail et des solidarités sur les risques liés à l'usage des lunettes connectées issues du partenariat entre Ray-Ban et Meta . Équipées d'une caméra intégrée, ces lunettes font l'objet de nombreuses polémiques. Elles ont notamment été portées par des professionnels en contact avec le public, qui ont filmé des clients à leur insu et, dans les cas les plus graves, des enfants. Le signal lumineux indiquant l'enregistrement est discret, mal connu du grand public et peut être neutralisé. Dans ces conditions, le consentement libre et éclairé des personnes filmées ne peut être garanti. Les images circulant fréquemment sur les réseaux sociaux, les personnes concernées découvrent qu'elles ont été filmées en même temps que des milliers d'internautes, sans avoir pu s'y opposer. Ainsi, elle lui demande si le Gouvernement entend interdire le port de ces lunettes dans les lieux et situations sensibles, en particulier dans les établissements scolaires et d'accueil de mineurs, ainsi que dans les professions sociales et médico-sociales, et selon quelles modalités.