In einem einmonatigen Snapshot eines einzelnen Dark-Web-Forums nahmen Analysten der Internet Watch Foundation 20.254 KI-generierte Bilder von sexuellem Missbrauch von Kindern auf.
Was auf dem Boden aussieht, erschien in Almendralejo, Spanien, im September 2023. Eine Mutter dort – sie nennt sich Mariana – öffnete ein Bild, das in einem Schulgruppe-Chat zirkulierte und sah das Gesicht ihrer eigenen Tochter auf einem nackten Körper platziert.
Dieser Cluster erklärt, warum Forscher jetzt KI-generierte sexuelle Bilder als ein neues Liefersystem für eine alte Form des Missbrauchs behandeln, nicht als eine zukünftige Projektion.
Synthetische Pixel, echte Schäden
Nonconsensual Intimate Imagery, oder NCII, beschreibt intime Bilder oder Videos, die ohne Erlaubnis geteilt werden. KI-generierte sexuelle Bilder gehören unter diesen Regenschirm, auch wenn die Person, die gezeigt wurde, nie ausziehen und die nackte nie fotografiert wurde.
Generative Modelle haben die Barriere eingebrochen. Undress-Apps nehmen ein Schulporträt oder ein Social-Media-Foto und geben in weniger als einer Minute eine überzeugende Nacktheit zurück. Text-zu-Bild-Tools können sexuelle Missbrauchsmaterialien von einem Kind allein produzieren, ohne aufgezeichnetes Opfer. Was diese Bilder intim macht, ist nicht, wie sie gemacht wurden; es ist, dass sie eine erkennbare Person ohne Zustimmung reproduzieren.
Die Zahlen hinter dem Aufstieg
Die Internet Watch Foundation zählte 20.254 KI-generierte Bilder von sexuellem Missbrauch von Kindern in einem Monat nicht aus einer Laborvorhersage. Analytiker verfolgten die Bilder zu einem einzigen Dark-Web-Forum und klassifizierten Tausende als kriminell.
Ein früheres Benchmark von Deeptrace legte das Muster für das aktuelle Problem fest: 96 Prozent der Deepfake-Videos online im Jahr 2019 waren nicht-konsensual-pornografie, und Frauen erschienen in 99 Prozent von ihnen.
Die neueste Verschiebung ist eine der Fähigkeiten. Kostenlose und Open-Source-Modelle laufen auf gewöhnlichen Laptops, und Foren handelsmodell wiegt und fordert die Art und Weise, wie frühere Gemeinschaften gestohlene Fotos gehandelt.Die Internet Watch Foundationveröffentlicht regelmäßig öffentliche Daten über Berichterstattung und Entfernung.
Photo by Ahtziri Lagarde on Unsplash
Warum gefälschte Bilder echte Menschen verletzen
Der Ausdruck "es ist nicht real" missversteht bildbasierten sexuellen Missbrauch. Ein Opfer empfindet die Datei nicht als gefälscht. Sie sieht ihr Gesicht auf einem Körper, für den sie sich nie vorgestellt hat, und sie weiß, dass das Bild in einem anderen Schüler-Gruppen-Chat existierte, bevor sie wusste, dass es existierte.
In Almendralejo hörten einige Mädchen auf, an der Klasse teilzunehmen. Eltern beschrieben Töchter, die das Haus nicht verlassen würden, weigerten sich, in Fotos zu erscheinen, oder fragten, ob sie die Schule wechseln sollten. Für Erwachsene läuft der gleiche Druck anders ab. Frauenjournalisten, Streamer, Menschenrechtsforscher und Aktivisten beschreiben das Löschen öffentlicher Konten oder die Reduzierung von Schranken, weil ein falsches sexuelles Bild in einer Einstellungsprüfung, einer Sicherheitsabrechnung oder einem Familienargument auftauchen kann. Das Bild kann aus mathematischem Lärm gemacht werden, aber seine Folgen sind konkret: Einkommen verloren, Vertrauen verloren, Nächte von gebrochenem Schlaf und ein kleineres öffentliches Leben.
Datenschutzbehörden und Missbrauchsdienste berichten, dass Opfer häufig Panikattacken, Überwachung über ihr eigenes Foto, Selbstüberwachung und Angst vor gewöhnlichen Telefonkameras zeigen.Einige hören auf, in Videoanrufen zu erscheinen oder entfernen ihr Foto von Arbeitsseiten.Das klinische Bild überlappt sich mit dem für fotografierten Missbrauch dokumentierten Schaden, weil die soziale Bedeutung des Bildes nicht virtuell ist.
Die rechtliche Antwort ist ein Patchwork
Kein einziges globales Gesetz deckt alle Fälle ab. Im Vereinigten Königreich machte das Online-Sicherheitsgesetz das Teilen eines intimen Bildes ohne Zustimmung zu einem Verbrechen, einschließlich von Bildern, die digital erstellt wurden. Das Digital Services Act der Europäischen Union erfordert, dass sehr große Online-Plattformen auf Berichte von nicht-konsensualen intimen Bildern handeln. Australiens eSafety Commissioner kann die Entfernung von intimen Bildern anordnen und hat eine erweiterte Anleitung für synthetisches sexuell explizites Material. In den Vereinigten Staaten behandeln Dutzende staatlicher Gesetze das Problem unterschiedlich, und ein Bundesvorschlag namens das TAKE IT DOWN Act hat bipartite Unterstützung gewonnen, ohne jede Lücke zu schließen.
Große Erwachsenen-Websites und Suchmaschinen haben Berichterstattungsrouten für nicht einvernehmliche Inhalte geschaffen, und einige Hubs für tief gefälschte Bilder wurden entfernt, nachdem Zahlungsprozessoren sich geweigert haben, mit ihnen zu arbeiten.
Was die Beweise noch nicht lösen können
Forscher arbeiten immer noch an Erkennungssystemen, die KI-generierte Bilder von echten Fotografien trennen können.Aktuelle Tools verpassen einige Bilder und flaggen andere, und ein Detektor ist nur nützlich, wenn Plattformen es ausführen möchten.
Die größere offene Frage ist die Messung.Dark-Web-Zählung unterstreicht das Problem, weil sie nur Foren erfassen, die Forscher sehen können. Überlebende Umfragen zeigen das gleiche Problem von der anderen Seite: Menschen, die berichten, können ein kleiner Bruchteil der Betroffenen sein, und viele sagen niemanden, weil das Bild selbst erniedrigend ist.
Photo by Markus Winkler on Unsplash
Was in den ersten 24 Stunden zu tun ist
Wenn die Person im Bild Sie oder Ihr Kind ist, widerstehen Sie dem Drang, jede Spur zu löschen, bevor Sie sie dokumentieren.
- Speichern Sie URLs, Timestamps, Account-Handles und Nachrichten-IDs in einem Ordner außerhalb der Plattform.
- Melden Sie jeden Beitrag über das Reporting-Tool der Plattform und bewahren Sie die Referenznummern auf. Flaggen Sie den Inhalt als nicht einvernehmliche intime Bilder, nicht als Spam.
- Erhalten Sie einen digitalen Fingerabdruck des Bildes. Erwachsene könnenStartseite.org, die Bilder hasht, so dass teilnehmende Plattformen sie blockieren können, ohne dass die Datei Ihr Gerät verlässt.
- Kontaktieren Sie die Polizei und eine lokale Support-Linie, vor allem, wenn jemand Geld oder mehr Bilder verlangt.
Für Personen unter 18 Jahren betreibt das Nationale Zentrum für vermisste und ausgebeutete Kinder einen parallelen Entfernungsservice namensNimm es herunterEltern sollten vermeiden, das Kind zu schämen; der wichtige Punkt ist, dass das Bild ohne Zustimmung gemacht wurde, unabhängig davon, was das Kind ursprünglich teilte.
Wenn Sie in der nächsten Stunde nur eine Sache tun, öffnen Sie StopNCII.org, wenn Sie ein Erwachsener sind, oder Take It Down, wenn die Person im Bild unter 18 ist, und starten Sie den Hash-Prozess.