En una instantánea de un mes de un solo foro de la web oscura, los analistas de la Internet Watch Foundation registraron 20.254 imágenes de abuso sexual infantil generadas por IA. Los archivos eran sintéticos, pero el daño que causan no es hipotético.
Lo que parece en el suelo apareció en Almendralejo, España, en septiembre de 2023.Una madre allí —la llama Mariana— abrió una imagen circulando en un chat de grupo escolar y vio el rostro de su propia hija colocado en un cuerpo desnudo.
Ese clúster explica por qué los investigadores ahora tratan las imágenes sexuales generadas por IA como un nuevo sistema de entrega para una vieja forma de abuso, no una proyección futura.
Pixels sintéticos, daños reales
Imagen íntima sin consentimiento, o NCII, describe imágenes íntimas o vídeos compartidos sin permiso. imágenes sexuales generadas por IA pertenecen a este paraguas, incluso cuando la persona mostrada nunca se desvestia y la desnuda nunca fue fotografiada.
Los modelos generativos han colapsado la barrera. Las aplicaciones Undress toman un retrato de la escuela o una foto de las redes sociales y devuelven un desnudo convincente en menos de un minuto. Las herramientas de texto a imagen pueden producir material de abuso sexual infantil de un prompt solo, sin víctima registrada. Lo que hace que estas imágenes sean íntimas no es cómo se hicieron; es que reproducen a una persona reconocible sin consentimiento.
Los números detrás de la subida
El recuento de la Internet Watch Foundation de 20.254 imágenes de abuso sexual infantil generadas por IA en un mes no provino de una predicción de laboratorio. Los analistas rastrearon las imágenes a un solo foro de web oscura y clasificaron a miles como criminales.
Un benchmark anterior de Deeptrace estableció el patrón para el problema actual: el 96 por ciento de los videos de deepfake en línea en 2019 eran pornografía no consensuada, y las mujeres aparecieron en el 99 por ciento de ellos.
El cambio más reciente es uno de la habilidad. modelos gratuitos y de código abierto se ejecutan en ordenadores portátiles, y los foros pesan el modelo de comercio y prometen la forma en que las comunidades anteriores comercializaban fotos robadas.La Fundación Internet WatchPublica periódicamente datos públicos sobre informes y supresiones.
Photo by Ahtziri Lagarde on Unsplash
Por qué las imágenes falsas lesionan a las personas reales
La frase "no es real" malinterpreta el abuso sexual basado en la imagen.Una víctima no experimenta el archivo como falso.Vea su rostro en un cuerpo para el que nunca se presentó, y sabe que la imagen existía en el chat de grupo de otro alumno antes de que supiera que existía.
En Almendralejo, algunas niñas dejaron de asistir a clases. Los padres describieron a niñas que no abandonarían la casa, se negaron a aparecer en fotografías, o preguntaron si deberían cambiar de escuela. Para los adultos, la misma presión se produce de manera diferente. Periodistas femeninas, streamers, investigadores de derechos humanos y activistas describen la eliminación de cuentas públicas o la reducción de líneas porque una imagen sexual falsa puede surgir en un cheque de contratación, una autorización de seguridad o un argumento familiar. La imagen puede ser hecha de ruido matemático, pero sus consecuencias son concretas: pérdida de ingresos, pérdida de confianza, noches de sueño roto, y una vida pública más pequeña.
Las autoridades de protección de datos y los servicios de abuso informan que las víctimas a menudo muestran ataques de pánico, hipervigilancia sobre su propia foto, autocontrol y miedo a las cámaras de teléfono ordinarias.Algunos dejan de aparecer en las llamadas de vídeo o eliminan su fotografía de las páginas de trabajo.La imagen clínica se sobrepasa con el daño documentado para el abuso fotográfico, porque el significado social de la imagen no es virtual.
La respuesta legal es un patchwork
Ninguna ley global cubre todos los casos. En el Reino Unido, la Ley de Seguridad en línea ha hecho del compartir una imagen íntima sin consentimiento un delito, incluidas las imágenes que han sido creadas digitalmente. La Ley de Servicios Digitales de la Unión Europea requiere que las plataformas en línea muy grandes actúen sobre los informes de imágenes íntimas no consensuadas. El Comisario de Seguridad de Australia puede ordenar la eliminación de imágenes íntimas y ha extendido la guía a material sexualmente explícito sintético. En los Estados Unidos, docenas de leyes estatales abordan el problema de manera diferente, y una propuesta federal llamada la Ley TAKE IT DOWN ha atraído apoyo bipartidista sin cerrar cada brecha.
Las políticas de la plataforma se mueven más rápido que la legislación en algunos lugares.Los grandes sitios para adultos y los motores de búsqueda han creado rutas de información para contenidos no consensuados, y algunos hubs para imágenes profundamente falsas se eliminaron después de que los procesadores de pago se negaron a trabajar con ellos.Los grupos de abuso advierten que la moderación sigue siendo inconsistente: una imagen eliminada en una hora en una plataforma puede permanecer indexada en otro lugar durante meses.
Lo que las pruebas todavía no pueden resolver
Los investigadores todavía están trabajando en sistemas de detección que pueden separar las imágenes generadas por IA de las fotografías reales.Las herramientas actuales pierden algunas imágenes y señalan otras, y un detector sólo es útil si las plataformas eligen ejecutarlo.
Las cuentas de la web oscura subestiman el problema porque solo capturan los foros que los investigadores pueden ver. Las encuestas de los sobrevivientes muestran el mismo problema desde el otro lado: las personas que informan pueden ser una pequeña fracción de los afectados, y muchos nunca dicen a nadie porque la propia imagen es humillante.
Photo by Markus Winkler on Unsplash
Qué hacer en las primeras 24 horas
Los servicios de apoyo a las víctimas vuelven a la misma secuencia porque preserva las opciones de una persona.Si la persona en la imagen es usted o su hijo, resista el impulso de eliminar cada rastro antes de documentarlo.Una eliminación puede destruir la evidencia que una plataforma o un oficial de policía necesita para actuar.
- Guardar URLs, timestamps, manos de cuenta e ID de mensaje en una carpeta fuera de la plataforma. Incluir capturas de pantalla de los resultados de búsqueda si la imagen se ha propagado.
- Informar cada publicación a través de la herramienta de informe de la plataforma y mantener los números de referencia.Flag el contenido como imágenes íntimas no consensuadas, no como spam.
- Obtener una huella digital de la imagen. Los adultos puedenConexión.org, que hashes imágenes para que las plataformas participantes puedan bloquearlas sin que el archivo salga de su dispositivo.
- Póngase en contacto con la policía y una línea de apoyo local, especialmente si alguien está exigiendo dinero o más imágenes.
Para las personas menores de 18 años, el Centro Nacional para Niños Desaparecidos y Explotados ejecuta un servicio paralelo de remoción llamadoTómalo abajoLos padres deben evitar avergonzar al niño; el punto importante es que la imagen se hizo sin consentimiento, independientemente de lo que el niño compartía originalmente.
Si solo haces una cosa en la siguiente hora, abre StopNCII.org si eres un adulto, o Take It Down si la persona en la imagen es menor de 18 años y comienza el proceso de hash.