Die Verlage greifen immer noch auf beides, aber das neueste Integritätsproblem ist leiser: Große Sprachmodelle generieren plausible, strategisch gepackte Referenzlisten, und jedes ungelöste DOI gestaltet die Zitierung eines Forschers ruhig neu.
STM, der internationale Handelsverband für wissenschaftliche, technische und medizinische Verlage, hat in den letzten Jahren die Infrastruktur für genau diese Art von Manipulation aufgebaut. Der Integrity Hub des Verbandes teilt Signale zwischen teilnehmenden Verlegern, und seine United2Act-Initiative koordiniert Maßnahmen gegen Papierfabriken.
Citation padding ist alt; industrialisieren ist neu
Zitierung Stapeln und Zitierung Ringe vor der generativen KI von Jahrzehnten. Redakteure wurden gefangen, um Selbstzitierungen zu verlangen. Gruppen von Autoren haben Zitierungen gehandelt, um h-Index aufzufüllen. Was sich geändert hat, ist die Einheitskosten. Ein Chatbot kann zwanzig Referenzen in Sekunden produzieren, echte Autoren mischen, echte Zeitschriften, plausible, aber falsche DOIs und Zitierungszahlen, die organisch aussehen, aber nicht sind. Einige Ausgaben sind reine Fabrikationen. Eine gefährlichere Untergruppe umfasst echte Artikel, die dem falschen Autor oder dem falschen Jahr zugeordnet werden, was eine einfache DOI-Suche besiegt, weil die DOI existiert und irgendwo
Der gleiche Versagenmodus erreichte die Gerichte im Jahr 2023, als zwei New Yorker Anwälte aufgefordert wurden, 5.000 US-Dollar zu zahlen.Blick auf AviancaNach der Einreichung von Briefen, die Fälle enthalten, die von ChatGPT erfunden wurden. Wissenschaftliche Manuskripte produzieren selten, dass eine Sanktion sofort. Der zugrunde liegende Fehler ist derselbe: Die Maschine liefert eine plausible Autorität und die menschlichen Dateien ohne zu überprüfen. Peer-Review ist kein Gerichtssaal, aber es ist das Haupttor zwischen einer KI-generierten Bibliographie und der dauerhaften Aufzeichnung.
Hier ist der Catch
Der Fang ist nicht, dass KI gelegentlich eine Referenz halluziniert. Der Fang ist, dass ein großer Teil der Forschungsbewertung keinen Grund hat zu bemerken. Ein Zitat wird als Einheit des Einflusses behandelt. Wenn ein hergestelltes oder gezwungenes Zitat in einem indexierten Papier, einem Google Scholar-Profil, einem institutionellen Repository oder einem Preprint-Server andauert, zählen die nachfolgenden Aggregatoren es. Der zitierte Forscher hat nichts falsch gemacht, aber ihre Metriken verbessern sich. Das Zitatprofil der Zeitschrift verbessert sich leicht. Wenn genügend solcher Zitate angesammelt werden, kann sich ein Zeitschrift-Effektfaktor bewegen. Jeder mit einem Anteil in dieser Zahl hat einen Anreiz, die Bibliographie
Ein früher beruflicher Forscher, der jede Referenz manuell überprüft, konkurriert daher mit einer automatisierten Inflationsmaschine bei der Einstellung von Metriken, der Bewertung von Zuschüssen und Forschungsbewertungssystemen.Das Integritätsproblem ist ein Herausgeberproblem und ein Arbeitsproblem: Der sorgfältige Gelehrte zahlt rechtzeitig, während der sorglose oder zynische Autor nichts zahlt.
Welche Zeitschriften tatsächlich verschicken
Verlage haben seit Jahren Textmatching-Tools.Crossref Ähnlichkeitsprüfunghilft redaktionellen Büros, Beiträge gegen eine große Datenbank zu vergleichen, aber das Ausgleichen von Text ist nicht dasselbe wie die Validierung von Referenzen.Die neuere Schicht ist die Metadatenprüfung: existiert das DOI, löst es sich mit dem beschriebenen Papier, wurde die Quelle zurückgezogen und passt das Zitat zu der Behauptung, die es unterstützt.
DieRetraction Watch Datenbankhat sich zu einem gemeinsamen Sekundärbildschirm.Einige Zeitschriften jetzt Fahnen Zitate zu zurückgezogenen Papieren, obwohl die Richtlinien variieren.STM-Integrität Hubist beabsichtigt, diese Signale über Publisher hinweg portabel zu machen, so dass eine Zeitschrift, die einen Zitierungsring identifiziert, das Muster teilen kann, ohne darauf zu warten, dass ein Rückzug Monate später veröffentlicht wird.
Warum diese Länder auf Einstellungsausschüsse
Manuskriptintegrität sieht aus wie ein redaktionelles Problem, bis ein Fakultäts-Suche- oder Forschungsstipendienkomitee einen Lebenslauf öffnet. Ein Kandidat mit einem stark zitierten Publikationsverzeichnis kann stärker erscheinen als ein Kollege mit ähnlicher Ausgabe und weniger Zitierungen. Der automatisierte Zitierungsmanipulator muss die eigenen Papiere des Kandidaten nicht berühren. Es muss sie nur zitieren. In Volumen-Bewertungssystemen werden aufgeblähte Zitierungszählungen zu einem Proxy für Sichtbarkeit und Sichtbarkeit kann die zugrunde liegende Arbeit übertreffen. Die Praxis ist älter als AI, aber die Skala hat sich geändert.
Das Problem ist nicht auf forschungsintensive Universitäten beschränkt. lehrorientierte Abteilungen, die Zitierungsmetriken als ein Signal in einer breiteren Portfolio-Überprüfung verwenden, sind genauso ausgesetzt, weil aufgeblähte Zitate dazu neigen, sich um eine kleine Anzahl stark verfasster Papiere zu gruppieren.
VorherigerAcademicJobs-Bericht zur Zeitschriftindexierungmachte einen verwandten Punkt: wo ein Papier erscheint, ist keine Qualitätsgarantie. Es ist auch nicht die Anzahl der Zeiten, die es zitiert wird. Die beiden Probleme verschmelzen, wenn KI-generierte Manuskripte ihre Bibliographien mit Zitierungen zu echten, vielleicht irrelevanten Papiers pad, dann diese Zitierungen Profile füttern, die Einstellungsausschüsse in Minuten lesen. Für alle, die sich für dauerhafte akademische Arbeit bewerben, ist ein nicht verifizierbares Zitierungsdatum jetzt eine Verantwortung, auch wenn es flatterend aussieht. Die Wiley-Hindawi-Retractions, die in einer früherenAkademische Untersuchungen, zeigte, was passiert, wenn sich die Papier-Mühle-Ausgabe ausbreitet, bevor die Detektion auffällt.
Was mit einer generierten Referenzliste zu tun ist
Die praktische Antwort ist unglamorös. Es beinhaltet das Überprüfen, nicht das Vertrauen. Autoren, Rezensenten, Redakteure und Forschungsintegritätsbeamte sollten jede AI-unterstützte Referenzliste als einen Entwurf von Behauptungen über die Literatur behandeln, nicht als eine fertige Aufzeichnung.
- Überprüfen Sie jedes DOI gegen die Seite des Herausgebers oder Crossref, nicht nur die Auflösungsseite.
- Eine Zusammenfassung aus einem Chatbot ist nicht dasselbe wie das Lesen der Methoden, und es ist der häufigste Ort für ein falsches Zitat zu verbergen.
- Suchen Sie in der Retraction Watch-Datenbank nach Referenzen mit einer Retraction-Geschichte, insbesondere für Artikel in Bewertungsartikeln oder systematischen Bewertungen.
- Aufzeichnen Sie die Verwendung von KI im Abschnitt Cover Letter oder Methoden. Viele Zeitschriften folgenKaffeeLeitlinien, die Offenlegung erfordern, wenn KI-Tools Referenzen vorschlagen, organisieren oder formatieren.
Wenn ein bibliographischer Eintrag in Zotero, EndNote oder einem ähnlichen Werkzeug lebt, werden die Quellmetadaten von der Prosa getrennt, was es für eine halluzinierte Referenz schwieriger macht, als ein eingepacktes Block durchzusteigen.
Die Antwort des Forschers
Das Update von STM ist wichtig, weil es das Zitierverhalten als ein Integritätssignal behandelt. Aber Werkzeuge beheben selten Anreizstrukturen auf eigene Faust. Ein Referenzchecker fängt eine gefälschte DOI. Es fängt keine echte, aber irrelevante Zitierung und es verhindert nicht, dass ein Einstellungsausschuss rohe Zitierungszahlen als Proxy für Leistung behandelt.
Die Antwort des Forschers besteht darin, aufzuhören, jede Referenzliste unschuldig anzunehmen. Lesen Sie die Bibliographie so, wie Sie die Methoden lesen. Überprüfen Sie die Existenz der Quelle, die Genauigkeit der Behauptung und den Rückzugsstatus. Wenn eine Maschine die Liste erzeugt, wächst die menschliche Verpflichtung, sie zu überprüfen, nicht zu schrumpfen. Eine Referenzliste ist eine Behauptung über das, was existiert. Der Herausgeber kann die schlechte DOI markieren. Der Forscher muss mit einer Zitierungstabelle leben, die etwas bedeutet.
Photo by Markus Winkler on Unsplash