Im Juni 2023 sagte Nature den Autoren etwas, das fünf Jahre zuvor seltsam klang: Bilder und Videos, die mit generativer KI gemacht wurden, waren in ihren Zeitschriften nicht mehr akzeptabel. Die Ankündigung zog eine Linie auf, die fehlte. Text, der von einem großen Sprachmodell produziert wurde, konnte manchmal mit sorgfältiger Offenlegung erlaubt werden, aber Pixel, die von einem Verbreitungsmodell produziert wurden, wurden als ein anderes Risiko behandelt.
Was früher eine Metadatenfrage war – wer diese Zahl machte und mit welchem Werkzeug – ist zu einer Frage der redaktionellen Konformität geworden. Zeitschriften lehnen KI nicht ab, weil die Werkzeuge neu sind. Sie lehnen Bilder ab, weil Bilder keine zuverlässige Auditspur hinterlassen. Eine Textpassage kann gegen Anrufe, Entwürfe und Modellprotokolle überprüft werden. Ein synthetischer westlicher Blot, ein generiertes Mikroskopiepanel oder ein AI-geänderter Graph, in dem die Fehlerleisten erfunden wurden, anstatt gemessen werden, kann nicht auf die gleiche Weise überprüft werden.
Die neue Trennung zwischen Text und Pixel
Die Politik von Nature 2023 tat etwas ungewöhnlich nützliches: Es zwang Autoren, die Regeln für Text, Code, Rohdaten und Bilder zu trennen, anstatt sie als ein Problem zu behandeln. Das Ergebnis ist eine Spaltung, die jetzt in Einreichungskontrolllisten erscheint. Ein Autor, der ein Sprachmodell verwendet, um Prosa zu polieren, kann mit einer Erklärung gehen.
Wissenschaftliche Zeitschriften nehmen eine ähnliche Linie ein, indem sie KI-generierte Zahlen für Fälle reservieren, die ausdrückliche redaktionelle Genehmigung erhalten und Autoren verlangen, die Verwendung generativer KI überall in der Arbeit offenzulegen. JAMA Network hat eine ähnliche Haltung eingenommen: KI-generierte Bilder werden nur berücksichtigt, wenn sie Teil der Forschung selbst sind.
Warum Bilder gesondert wurden
Bildmanipulation ist kein generatives KI-Problem. Es ist ein digitales Biologieproblem, das Diffusionsmodelle um ein Jahrzehnt vorausgeht. Zeitschriften begannen, forensische Screening zu implementieren, nachdem duplizierte Bänder und klonierte Mikroskopiefelder zu den häufigsten Gründen für Bildniveau-Retractions wurden. Die Ankunft von AI-Bildgeneratoren komprimierte die Zeitlinie: Ein Autor ohne Bench-Hintergrund konnte in Minuten ein plausibles Zellbild produzieren, und traditionelle Quelldatei-Checks hörten auf zu arbeiten.Bildmanipulation-Erkennungstools sind jetzt früher im Überprüfungsprozess eingebettet... .
Die Redaktion von Nature vom Juni 2023 wies auf das Kernproblem in einfachen Begriffen hin. Generative KI-Bilder können nicht auf Daten, Methoden oder Quelldateien zurückverfolgt werden.Die RedaktionSie bemerkte auch Ausnahmen für die Forschung über KI-Systeme, eine Schnitzerei, die die Politik davon abhält, legitime Arbeiten im maschinellen Lernen und in der Computervision zu blockieren.
Der Basissatz und die Ausnahme
Vor der generativen KI war die Basisrate für problematische Bilder bereits messbar. Auf einem Bildschirm von 20.621 Artikeln in 40 Zeitschriften,Elisabeth Bik und Kollegen fanden in 3,8 Prozent unangemessene BildduplizierungDas ist ungefähr ein Papier in 26, und es ist der Boden, nicht die Decke, weil sich die Studie auf visuelle Inspektion und nicht auf automatisierte Erkennung in jeder Figur stützte.
Die Ausnahme von den neuen Verboten ist enger, als viele Autoren erwarten. Zeitschriften, die KI-Bilder verbieten, erlauben immer noch KI-unterstützte Verarbeitung wie denoising oder deconvolution und einfache Kontrastanpassung, die Pixelwerte intakt hinterlässt, wenn sie offenbart werden und keine Details fabrizieren. Der Test ist in der Regel eine Frage: Hat das Tool etwas erfunden, das nicht in den zugrunde liegenden Daten war? Wenn ja, gehört es zur verbotenen Kategorie.
Eine Mitarbeiterin – nannte sie Dr. O – verwendete ein Text-zu-Bild-Modell, um eine Schematik eines experimentellen Workflows für eine Überprüfung zu erstellen. Es sah sauber aus, so dass sie es eingereicht hatte. Das Journal bat um Quelldateien; es gab keine. Keine Schichten, keine Vektorwege, kein Skript, nur ein PNG. Die Zahl wurde auf der Dokumentation abgelehnt, nicht auf dem Inhalt.
Was Autoren nun Zeitungen erzählen müssen
Offenlegungsanforderungen haben sich von breiten Anerkennungen zu Linien-Elemente-Erklärungen verlagert.ICMJE Aktualisierung zu Autorship und AI Offenlegungbestätigt, dass KI kein Autor sein kann und dass seine Verwendung in jedem Teil der Arbeit, einschließlich der Bildschöpfung, gemeldet werden muss.
Wissenschaftliche Zeitschriften bitten die Autoren, festzustellen, welches Werkzeug verwendet wurde und wie, und Redakteure können die ursprünglichen unverarbeiteten Daten hinter jeder Figur anfordern.Die breitere Leitlinie von Springer Nature legt getrennte Erklärungen für Sprachbearbeitung, Bildverarbeitung und Code-Generierung auf.Ein Manuskript, das einen Grammatikprüfer für Text verwendet, befindet sich in einer anderen Kategorie als einer, der ein Diffusionsmodell für eine Figur verwendet, und das Einreichungsformular fragt nun, welchen der Autor getan hat.Die Politik von Springer Natureist ein nützliches Cribblatt, wenn die Zeitschriftspezifische Form vage ist.
Was das für Ihr Labor bedeutet
Die praktische Belastung fällt auf die Laboratorien, die Zahlen produzieren, nicht auf die Verlage. Diese Belastung ist klein, wenn sie in die Zahlenleitung eingebaut wird, und groß, wenn sie während der Überprüfung entdeckt wird.
- Bewahren Sie die Rohbilddatei, die verarbeitete Datei und das Skript oder die Einstellungen auf, die sie verbinden. Eine PNG allein ist keine Quelldatei mehr.
- Wenn Sie KI-unterstützte Verarbeitung verwenden, notieren Sie das Werkzeug, die Version, den Anruf oder die Einstellungen und die spezifischen Panels, die es berührt hat.
- Überprüfen Sie die Zahlenrichtlinie des Ziellogbuchs, bevor Sie mit dem Zeichnen beginnen, nicht wenn Sie es hochladen.Eine verbotene Zahl, die bei der Überarbeitung entdeckt wurde, kostet mehr als die Zeit, um sie neu zu zeichnen.
- Geben Sie einer Person im Labor den Besitz des Bilddokumentationsordners zu.Diese Angewohnheit konvertiert eine Compliance-Anfrage aus einem Scramble in eine fünfminütige E-Mail.
Nichts davon macht die Zahlen wissenschaftlicher.Es macht sie kontrollierbarer, was die Property-Editoren sagen, dass sie auf Skala durchsetzen können.
Wo die Regeln gebrochen werden können
Diese Richtlinien sind sauberer auf dem Papier als in der Praxis. Offenlegung hängt von dem Gedächtnis des Autors ab, und Erkennungswerkzeuge kennzeichnen ein Pixel nicht zuverlässig als synthetisch. Sie finden Duplikation, Klonen, eingefügte Filter und Komprimierungsartefakte, dann verwenden Redakteure diese Ergebnisse, um Rohdateien anzufordern.
Ausbildungsdaten für Text-zu-Bild-Modelle umfassen Zahlen, die aus Zeitschriften und Preprint-Servern gezogen werden, und einige Verlage haben Vereinbarungen unterzeichnet, um ihre Archive zu lizenzieren.Juristische Kämpfe über die Ausbildung von Publisher AIDas wird das prägen, was Autoren mit Zuversicht einreichen können, Jahre bevor die Detektionswerkzeuge auftauchen.
Bevor Sie sich unterbreiten
Öffnen Sie die redaktionelle Richtlinie der Zeitschrift und suchen Sie nach dem Wort "Bild". Wenn die Richtlinie KI-generierte Zahlen verbietet, planen Sie, Quelldateien für jedes Panel zur Verfügung zu stellen.
Photo by Brett Jordan on Unsplash