Dans une capture d'écran d'un mois d'un seul forum sur le web sombre, les analystes de la Fondation Internet Watch ont enregistré 20.254 images d'abus sexuels sur les enfants générées par l'IA.
Ce qui ressemble au sol est apparu à Almendralejo, en Espagne, en septembre 2023.Une mère là-bas – elle l’appelle Mariana – a ouvert une photo circulant dans un chat de groupe scolaire et a vu le visage de sa propre fille placé sur un corps nu.Aucune caméra n’avait pris cette photo.Il avait été généré avec une application à partir d’un portrait habillé.En quelques jours, la police locale enquêtait sur les fausses nues de plus de 20 filles entre 11 et 17.
Ce cluster explique pourquoi les chercheurs traitent maintenant les images sexuelles générées par l’IA comme un nouveau système de livraison pour une ancienne forme d’abus, et non une projection future.
Pixels synthétiques, dommages réels
Imagerie intime non consensuelle, ou NCII, décrit des photos intimes ou des vidéos partagées sans autorisation. Les images sexuelles générées par l'IA appartiennent à ce parapluie, même lorsque la personne montrée ne s'est jamais déguisée et que la nudité n'a jamais été photographiée.
Les modèles génératifs ont effondré la barrière. Les applications Undress prennent un portrait scolaire ou une photo sur les médias sociaux et renvoient une nudité convaincante en moins d'une minute. Les outils texte-à-image peuvent produire du matériel d'abus sexuel sur des enfants à partir d'une seule demande, sans victime enregistrée. Ce qui rend ces images intimes n'est pas la façon dont elles ont été faites; c'est qu'elles reproduisent une personne reconnaissable sans consentement.
Les chiffres derrière la montée
Le compte de la Fondation Internet Watch de 20,254 images d'abus sexuels d'enfants générées par l'IA en un mois n'a pas provenu d'une prédiction de laboratoire.Les analystes ont tracé les images à un seul forum sur le web sombre et ont classé des milliers de personnes comme criminelles.
Un précédent critère de référence de Deeptrace a défini le modèle du problème actuel: 96% des vidéos de faux-fonds en ligne en 2019 étaient de la pornographie non consensuelle, et les femmes apparaissaient dans 99% d'entre elles.
Les modèles gratuits et open-source fonctionnent sur des ordinateurs portables ordinaires, et les forums pesent le modèle du commerce et suggèrent la façon dont les communautés antérieures échangaient des photos volées.La Fondation Internet Watchpublie régulièrement des données publiques sur les rapports et les suppressions.
Photo by Ahtziri Lagarde on Unsplash
Pourquoi les images fausses blessent les vraies personnes
La phrase « ce n'est pas réel » comprend mal l'abus sexuel basé sur l'image. Une victime ne perçoit pas le fichier comme faux. Elle voit son visage sur un corps pour lequel elle n'a jamais posé, et elle sait que l'image existait dans le chat de groupe d'un autre élève avant qu'elle ne sache qu'il existait.
À Almendralejo, certaines filles ont cessé de fréquenter la classe. Les parents ont décrit des filles qui ne quitteraient pas la maison, refusaient de apparaître dans des photographies ou demandaient s'ils devaient changer d'école. Pour les adultes, la même pression s'applique différemment. Des journalistes féminines, des diffuseurs, des chercheurs en droits de l'homme et des militants décrivent la suppression de comptes publics ou la réduction de lignes car une fausse image sexuelle peut apparaître dans un chèque d'embauche, une autorisation de sécurité ou un argument familial. L'image peut être faite de bruit mathématique, mais ses conséquences sont concrètes: perte de revenus, perte de confiance, nuits de sommeil br
Les autorités de protection des données et les services d'abus rapportent que les victimes montrent souvent des attaques de panique, de l'hypervigilance sur leur propre photo, de l'auto-surveillance et de la peur des caméras de téléphone ordinaires. Certains cessent d'apparaître dans les appels vidéo ou de supprimer leur photo des pages de travail.
La réponse juridique est un patchwork
Aucune loi mondiale ne couvre tous les cas. Au Royaume-Uni, la Loi sur la sécurité en ligne a fait du partage d'une image intime sans consentement une infraction, y compris des images qui ont été créées numériquement. La Loi sur les services numériques de l'Union européenne exige des plateformes en ligne très grandes d'agir sur les rapports d'images intime non consensuelles. Le Commissaire australien à la sécurité électronique peut ordonner la suppression d'images intime et a élargi les directives sur le matériel sexuellement explicite synthétique. À travers les États-Unis, des dizaines de lois d'État traitent le problème différemment, et une proposition fédérale appelée la Loi TAKE IT DOWN a at
Les grands sites pour adultes et les moteurs de recherche ont créé des itinéraires de signalement pour les contenus non consensuels, et certains hubs pour les images profondément falsifiées ont été supprimés après que les processeurs de paiement aient refusé de travailler avec eux.
Ce que les preuves ne peuvent pas résoudre
Les chercheurs travaillent toujours sur des systèmes de détection qui peuvent séparer les images générées par l'IA des photographies réelles.Les outils actuels manquent de certaines images et d'autres, et un détecteur n'est utile que si les plates-formes choisissent de l'exécuter.
La plus grande question ouverte est la mesure. les comptes du web sombre sous-estiment le problème parce qu'ils ne capturent que les forums que les chercheurs peuvent voir.Les enquêtes survivants montrent le même problème de l'autre côté: les personnes qui rapportent peuvent être une petite fraction de ceux qui sont touchés, et beaucoup ne disent jamais à personne parce que l'image elle-même est humiliante.
Photo by Markus Winkler on Unsplash
Que faire dans les 24 premières heures
Les services de soutien aux victimes retournent dans la même séquence car cela préserve les options d'une personne. Si la personne sur l'image est vous ou votre enfant, résistez à l'envie de supprimer chaque trace avant de la documenter.
- Enregistrez les URL, les timestamps, les manches de compte et les ID de message dans un dossier en dehors de la plateforme. Incluez des captures d'écran des résultats de recherche si l'image s'est propagée.
- Rapportez chaque message via l'outil de reporting de la plate-forme et conservez les numéros de référence.
- Obtenez une empreinte digitale de l'image. Les adultes peuvent utiliserà l’arrêt.org, qui hachera les images afin que les plateformes participantes puissent les bloquer sans que le fichier quitte votre appareil.
- Contactez la police et une ligne de soutien locale, surtout si quelqu'un demande de l'argent ou plus d'images.
Pour les personnes de moins de 18 ans, le Centre national pour les enfants disparus et exploités exécute un service d'éloignement parallèle appeléPrenez-le en basLes parents devraient éviter de faire honte à l'enfant; le point important est que l'image a été prise sans consentement, peu importe ce que l'enfant a partagé à l'origine.
Si vous ne faites qu’une chose dans l’heure suivante, ouvrez StopNCII.org si vous êtes un adulte, ou Take It Down si la personne sur l’image est âgée de moins de 18 ans, et commencez le processus de hachage.