En junio de 2023, Nature dijo a los autores algo que habría sonado extraño cinco años antes: las imágenes y los vídeos hechos con AI generativo ya no eran aceptables en sus revistas. El anuncio dibujó una línea que había desaparecido. El texto producido por un modelo de lenguaje grande a veces podría ser permitido con una divulgación cuidadosa, pero los píxeles producidos por un modelo de difusión fueron tratados como un riesgo diferente. Desde entonces, la familia de revistas de ciencia, la red JAMA y el mayor portfolio de Springer Nature se han movido en la misma dirección, aunque los detalles varían lo suficiente para atrapar a los autores.
Lo que antes era una pregunta de metadatos - quién hizo esta cifra, y con qué herramienta - se ha convertido en una cuestión de cumplimiento editorial. Las revistas no están rechazando la IA porque las herramientas son nuevas. Están rechazando imágenes porque las imágenes no dejan un rastro de auditoría confiable. Un pasaje de texto puede ser verificado contra prompts, diseños y registros de modelos. Un blot occidental sintético, un panel de microscopía generado, o un gráfico modificado por IA donde las barras de error fueron inventadas en lugar de medidas no puede ser verificado de la misma manera.
La división entre texto y píxeles
La política de Nature 2023 hizo algo inusual: obligó a los autores a separar las reglas para texto, código, datos crudos e imágenes en lugar de tratarlos como un problema.El resultado es una división que ahora aparece en las listas de verificación de envíos.Un autor que utiliza un modelo de lenguaje para pulir prosa puede pasar con una declaración.El mismo autor con un esquema generado por IA corre en una prohibición absoluta.
Las revistas de ciencia toman una línea similar, reservando las cifras generadas por la IA para casos que reciben la aprobación editorial explícita y requieren que los autores revelen cualquier uso de la IA generativa en cualquier lugar del trabajo. JAMA Network ha tomado una posición similar: las imágenes generadas por la IA solo se consideran cuando forman parte de la investigación misma.
Por qué las imágenes se separan
La manipulación de imágenes no es un problema de IA generativo. Es un problema de biología digital que precede a los modelos de difusión por una década. Las revistas comenzaron a desplegar la selección forense después de que las bandas duplicadas y los campos de microscopía clonados se convirtieran en la razón más común para las retracciones a nivel de imagen. La llegada de los generadores de imágenes de IA comprimió la línea de tiempo: un autor sin fondo de banco podía producir una imagen celular plausible en minutos, y las verificaciones tradicionales de archivos de fuente dejaron de funcionar.herramientas de detección de manipulación de imagen ahora se incorporan antes en el proceso de revisión. el
El editorial de Nature de junio de 2023 apuntó al problema central en términos claros. las imágenes de IA generativas no se pueden rastrear a datos, métodos o archivos de fuente.La editorialTambién notó excepciones para la investigación sobre sistemas de IA, una escultura que mantiene la política de bloquear el trabajo legítimo en el aprendizaje automático y la visión por ordenador.
La tasa de base y la excepción
Antes de la IA generativa, la tasa de base para las imágenes problemáticas ya era medible. En una pantalla de 20.621 artículos en 40 revistas,Elisabeth Bik y sus colegas encontraron duplicación de imagen inapropiada en el 3,8 por cientoEso es aproximadamente un papel en 26, y es el piso, no el techo, porque el estudio se basó en la inspección visual en lugar de la detección automatizada en cada figura.
La excepción a las nuevas prohibiciones es más estrecha de lo que muchos autores esperan. Las revistas que prohíben las imágenes de IA todavía permiten el procesamiento asistido por IA como el denoising o la deconvolución y el ajuste de contraste simple que deja intactos los valores de píxeles, cuando se divulgan y no fabrican detalles. La prueba suele ser una pregunta: ¿inventó la herramienta algo que no estaba en los datos subyacentes? Si es así, pertenece a la categoría prohibida.
Una colaboradora —la llamó Dr. O— usó un modelo de texto a imagen para hacer un esquema de un flujo de trabajo experimental para una revisión. Parecía limpio, así que la envió. El periódico pidió archivos de fuente; no había ninguno. No había capas, no había caminos de vectores, no había script, sólo un PNG. La figura fue rechazada en la documentación, no en el contenido. Ella la rediseñó en BioRender la misma tarde y el archivo revisado fue aprobado. La política no cuestionó su honestidad; rechazó evidencias que no se podían auditar.
Lo que los autores tienen que decir a los periódicos
Los requisitos de divulgación han cambiado de reconocimientos amplios a declaraciones de puntos de línea.Actualización de ICMJE sobre autoría y divulgación de IAReafirmó que la IA no puede ser un autor y que su uso en cualquier parte del trabajo, incluida la creación de figuras, debe ser reportado.
Las revistas científicas piden a los autores que especifiquen qué herramienta se utilizó y cómo, y los editores pueden solicitar los datos originales sin procesar detrás de cualquier figura.La guía más amplia de Springer Nature establece declaraciones separadas para la edición del lenguaje, el procesamiento de imágenes y la generación de código.Un manuscrito que utiliza un verificador gramatical para el texto se encuentra en una categoría diferente de uno que utiliza un modelo de difusión para una figura, y el formulario de presentación ahora pregunta cuál lo hizo el autor.La política de Springer Naturees una hoja de crib útil cuando la forma específica del periódico es vaga.
¿Qué significa esto para tu laboratorio?
La carga práctica cae en los laboratorios que producen figuras, no en los editores. Esa carga es pequeña si se incorpora a la tubería de figuras y grande si se descubre durante la revisión.
- Mantenga el archivo de imagen cruda, el archivo procesado y el script o la configuración que los conecta.
- Si utiliza procesamiento asistido por IA, grabe la herramienta, versión, prompt o configuración y los paneles específicos que tocó.
- Compruebe la política de figura del diario de destino antes de comenzar a dibujar, no cuando cargue.Una figura prohibida descubierta en la revisión cuesta más que el tiempo para rediseñarla.
- Asigna a una persona en el laboratorio para que posea la carpeta de documentación de imagen.Este hábito convierte una solicitud de cumplimiento de un scramble en un correo electrónico de cinco minutos.
Nada de esto hace que las cifras sean más científicas.Los hace más verificables, que es lo que los editores de propiedades dicen que pueden hacer cumplir a escala.
Donde se pueden romper las reglas
Estas políticas son más limpias en el papel que en la práctica. La divulgación depende de la memoria del autor, y las herramientas de detección no etiquetan de manera fiable un píxel como sintético. encuentran duplicación, clonación, filtros insertados y artefactos de compresión, luego los editores utilizan esos hallazgos para solicitar archivos crudos.
Los datos de formación para modelos de texto a imagen incluyen figuras extraídas de revistas y servidores de preimpresión, y algunos editores han firmado acuerdos para licenciar sus archivos.Los autores que se oponen a la formación de IA ahora se enfrentan a una división entre el entusiasmo de su institución por la IA y la política de imagen de su editor.Luchan por la formación de los editoresdará forma a lo que los autores pueden enviar con confianza años antes de que las herramientas de detección se encuentren.
Antes de presentarse
Abre la política editorial de la revista y busca la palabra "imagen".Si la política prohíbe las cifras generadas por la IA, planee suministrar archivos de fuente para cada panel.Si los permite con divulgación, escriba la herramienta exacta y la versión en la carta de presentación y los métodos.Hazlo antes de enviar, no después de que el editor le pida.
Photo by Brett Jordan on Unsplash