El primer pánico acerca de la IA en las presentaciones de manuscritos involucraba imágenes.Entonces se inventaron las referencias.Los editores todavía están atrapando a ambos, pero el problema de integridad más reciente es más silencioso: los grandes modelos de idiomas están generando listas de referencia plausibles, estratégicamente empapadas, y cada DOI no resuelto silenciosamente remodela el registro de citas de un investigador.
STM, la asociación comercial internacional de editores científicos, técnicos y médicos, ha dedicado los últimos años a construir infraestructuras para este tipo de manipulación.El Integrity Hub de la asociación comparte señales entre los editores participantes, y su iniciativa United2Act coordina la acción contra las fábricas de papel.Las últimas discusiones de integridad entre los miembros de STM han pasado de capturar a los malos actores individuales y a tratar las listas de referencia como un flujo de datos que puede ser jugado como cualquier otro.
Citation padding es viejo; industrializar es nuevo
El apilamiento de citas y los anillos de citas preceden a la IA generativa por décadas. Los editores han sido atrapados pidiendo auto-citaciones. Grupos de autores han negociado citas para inflar los índices h. Lo que ha cambiado es el coste unitario. Un chatbot puede producir veinte referencias en segundos, mezclando autores reales, revistas reales, DOI plausibles pero incorrectos, y cuentas de citas que parecen orgánicas pero no lo son. Algunos resultados son pura fabricación. Un subconjunto más peligroso incluye artículos reales atribuidos al autor equivocado o al año equivocado, que derrota una simple búsqueda de DOI porque el DOI existe y apunta en algún lugar.
El mismo modo de fracaso llegó a los tribunales en 2023, cuando a dos abogados de Nueva York se les ordenó pagar 5.000 dólares en impuestos.Mata en AviancaDespués de presentar breves conteniendo casos inventados por ChatGPT. Los manuscritos académicos rara vez producen que instantaneamente una sanción. El error subyacente es el mismo: la máquina suministra una autoridad plausible y los archivos humanos sin comprobarlo. La revisión de pares no es una sala de juicio, pero es la puerta principal entre una bibliografía generada por IA y el registro permanente.
Aquí está el catch
La captura no es que la IA alucina ocasionalmente una referencia. La captura es que una gran parte de la evaluación de la investigación no tiene razón para notar. Una citación se trata como una unidad de influencia. Si una cita fabricada o coercida persiste en un papel indexado, un perfil de Google Scholar, un repositorio institucional o un servidor de preimpresión, los agregadores descendentes la cuentan. El investigador citado no hizo nada mal, pero sus métricas mejoran. El perfil de cita de la revista mejora ligeramente. Si se acumulan suficientes tales citas, un factor de impacto de la revista puede moverse. Todo el mundo con una participación en ese número tiene un incentivo para no interrogar demasiado de cerca la bibliografía.
Un investigador de carrera temprana que verifica manualmente cada referencia está, por lo tanto, compitiendo contra una máquina de inflación automatizada en las métricas de contratación, la puntuación de las subvenciones y los sistemas de evaluación de la investigación.El problema de integridad es un problema de editor y un problema de trabajo: el estudioso cuidadoso paga a tiempo, mientras que el autor descuidado o cínico no paga nada.
Cuáles son los periódicos que realmente envían
Los editores han tenido herramientas de correspondencia de texto durante años.Comprobar la similitud de CrossrefLa capa más reciente es la verificación de metadatos: ¿existe el DOI, se resuelve con el papel descrito, se ha retraído la fuente, y si la cita se ajusta a la afirmación que apoya.Muchos sistemas editoriales ahora ejecutan esas comprobaciones a la presentación, aunque la adopción sigue siendo desigual en las revistas de la pequeña sociedad y en los grandes editores comerciales.
ElBase de datos de Retraction Watchse ha convertido en una pantalla secundaria común.Algunas revistas ahora señalan citas a artículos retraídos, aunque las políticas varían.Introducción al Integrity HubSe pretende hacer que esas señales sean portátiles entre los editores, por lo que una revista que identifica un anillo de citas puede compartir el patrón sin esperar a que se publique una retracción meses más tarde.
Por qué esta tierra en los comités de contratación
La integridad de los manuscritos parece un problema editorial hasta que un comité de búsqueda de facultades o de becas de investigación abre un CV. Un candidato con un registro de publicación altamente citado puede parecer más fuerte que un colega con salida similar y menos citas. El manipulador de citas automatizado no necesita tocar los propios trabajos del candidato. Solo necesita citarlos. En sistemas de evaluación de alto volumen, las cuentas de citas infladas se convierten en un proxy para la visibilidad, y la visibilidad puede superar el trabajo subyacente. La práctica es más antigua que la IA, pero la escala ha cambiado.
El problema no se limita a las universidades de investigación intensiva. departamentos centrados en la enseñanza que utilizan las métricas de citas como una señal en una revisión de cartera más amplia están igualmente expuestos, porque las citas infladas tienden a agruparse alrededor de un pequeño número de trabajos fuertemente escritos.
La anteriorInforme de AcademicJobs sobre la indexación de revistasHizo un punto relacionado: donde aparece un artículo no es una garantía de calidad. Tampoco es el número de veces que se cita. Los dos problemas se fusionan cuando los manuscritos generados por IA colgan sus bibliografías con citas a papeles reales, tal vez irrelevantes, entonces esas citas alimentan perfiles que los comités de contratación leen en minutos. Para cualquiera que solicite trabajo académico permanente, un registro de cita no verificable es ahora una responsabilidad incluso cuando parece flattering.Investigación académica, mostró lo que sucede cuando la salida de molino de papel se propaga antes de que la detección alcance.
Qué hacer con una lista de referencia generada
La respuesta práctica es incómoda. implica comprobar, no confiar.Los autores, revisores, editores y funcionarios de integridad de investigación deben tratar cualquier lista de referencia asistida por IA como un proyecto de afirmaciones sobre la literatura, no un registro terminado.
- Compruebe cada DOI contra la página del editor o Crossref, no sólo la página de resolución.
- Un resumen de una frase de un chatbot no es lo mismo que leer los métodos, y es el lugar más común para ocultar una cita equivocada.
- Busque la base de datos de Retraction Watch para cualquier referencia con un historial de retracción, especialmente para artículos en artículos de revisión o revisiones sistemáticas.
- Registra el uso de la IA en la sección de letra de presentación o métodos.Muchas revistas siguencopaorientación que requiere divulgación cuando las herramientas de IA sugieren, organizan o formatan referencias.
Cuando una entrada bibliográfica vive en Zotero, EndNote, o una herramienta similar, los metadatos de fuente se separan de la prosa, lo que hace que sea más difícil para una referencia alucinada deslizarse como un bloque pegado.
La respuesta del investigador
La actualización de STM es importante porque trata el comportamiento de la cita como una señal de integridad. Pero las herramientas rara vez solucionan las estructuras de incentivos por sí solas. Un verificador de referencia captura un DOI falso. No captura una cita real pero irrelevante, y no impide que un comité de contratación trate las cuentas de la cita cruda como un proxy para el logro.
La respuesta del investigador es dejar de asumir que cualquier lista de referencia es inocente. Lee la bibliografía de la manera en que lee los métodos. Compruebe la existencia de la fuente, la exactitud de la afirmación y el estado de retracción. Si una máquina genera la lista, la obligación humana de verificarla crece, no se reduce. Una lista de referencia es una afirmación sobre lo que existe. El editor puede marcar el mal DOI. El investigador tiene que vivir con un registro de citación que significa algo.
Photo by Markus Winkler on Unsplash
