Em junho de 2023, a Nature disse aos autores algo que teria soado estranho cinco anos antes: imagens e vídeos feitos com IA generativa não eram mais aceitáveis em suas revistas. O anúncio desenhou uma linha que estava faltando. Texto produzido por um grande modelo de idioma às vezes poderia ser permitido com divulgação cuidadosa, mas pixels produzidos por um modelo de difusão foram tratados como um risco diferente. Desde então, a família de revistas Science, a JAMA Network e o portfólio Springer Nature mais amplo se moveram na mesma direção, embora os detalhes variem o suficiente para pegar os autores fora da guarda.
O que costumava ser uma questão de metadados – quem fez essa figura, e com que ferramenta – tornou-se uma questão de conformidade editorial. Os jornais não estão rejeitando a IA porque as ferramentas são novas. Eles estão rejeitando imagens porque as imagens não deixam um rastro de auditoria confiável. Uma passagem de texto pode ser verificada contra prompts, desenhos e logs de modelo. Um blot ocidental sintético, um painel de microscopia gerado ou um gráfico alterado por IA onde as barras de erro foram inventadas em vez de medidas não pode ser verificado da mesma forma.
A divisão entre texto e pixels
A política da Nature’s 2023 fez algo inusitadamente útil: forçou os autores a separar as regras para texto, código, dados brutos e imagens em vez de tratá-las como um único problema.O resultado é uma divisão que agora aparece nas listas de verificação de submissão.Um autor que usa um modelo de idioma para polir prosa pode passar com uma declaração.
As revistas de ciência tomam uma linha semelhante, reservando números gerados por IA para casos que recebem aprovação editorial explícita e exigindo que os autores revelem qualquer uso de IA geradora em qualquer lugar do trabalho.JAMA Network tomou uma posição semelhante: imagens geradas por IA são consideradas apenas quando fazem parte da própria pesquisa.Muitas revistas Elsevier e Taylor & Francis agora exigem a divulgação de geração de figura assistida por IA e pedem aos editores para solicitar arquivos de origem originais quando a origem de uma imagem é incerta.
Por que as imagens foram excluídas
A manipulação de imagens não é um problema de IA generativo. É um problema de biologia digital que antecede os modelos de difusão por uma década. Jornais começaram a implantar a triagem forense depois de bandas duplicadas e campos de microscopia clonados se tornaram a razão mais comum para retrações em nível de imagem. A chegada de geradores de imagens de IA comprimiu a linha do tempo: um autor sem fundo de banco poderia produzir uma imagem de célula plausível em minutos, e os controles tradicionais de arquivos-fonte pararam de funcionar.As ferramentas de detecção de manipulação de imagem agora são incorporadas mais cedo no processo de revisão. o
O editorial de junho de 2023 da Nature apontou para o problema central em termos simples. imagens de IA gerativas não podem ser rastreadas para dados, métodos ou arquivos de origem.A EditoraTambém observou exceções para pesquisas sobre sistemas de IA, uma escultura que impede a política de bloquear o trabalho legítimo em aprendizagem de máquina e visão de computador.
A taxa de base e a exceção
Antes da IA generativa, a taxa de base para imagens problemáticas já era mensurável.Em uma tela de 20.621 artigos em 40 revistas,Elisabeth Bik e colegas encontraram duplicação de imagem inadequada em 3,8 por centoIsso é aproximadamente um papel em 26, e é o chão, não o teto, porque o estudo se baseou em inspeção visual em vez de detecção automatizada em cada figura.
A exceção às novas proibições é mais estreita do que muitos autores esperam. Jornais que proíbem imagens de IA ainda permitem processamento assistido por IA como denoising ou deconvolução e ajuste de contraste simples que deixa os valores de pixels intactos, quando são revelados e não fabricam detalhes. O teste é geralmente uma pergunta: a ferramenta inventou algo que não estava nos dados subjacentes? Se sim, pertence à categoria proibida.
Uma colaboradora – chamou-a Dr. O – usou um modelo de texto-para-imagem para fazer um esquema de um fluxo de trabalho experimental para uma revisão. Parecia limpo, então ela o submeteu. A revista pediu arquivos de origem; não havia nenhum. Sem camadas, sem caminhos de vetor, sem script, apenas um PNG. A figura foi rejeitada na documentação, não no conteúdo. Ela o redigiu no BioRender na mesma tarde e o arquivo revisado foi aprovado. A política não questionou sua honestidade; ela rejeitou evidências que não podiam ser auditadas.
O que os autores têm a dizer aos jornais
Os requisitos de divulgação mudaram de reconhecimentos amplos para declarações de itens de linha.Atualização do ICMJE sobre autoria e divulgação de IAReafirmou que a IA não pode ser um autor e que seu uso em qualquer parte do trabalho, incluindo a criação de figuras, deve ser relatado.
As revistas científicas pedem aos autores que especifiquem qual ferramenta foi usada e como, e os editores podem solicitar os dados originais não processados por trás de qualquer figura.A orientação mais ampla da Springer Nature estabelece declarações separadas para edição de linguagem, processamento de imagem e geração de código.Um manuscrito que usa um verificador de gramática para texto fica em uma categoria diferente daquele que usa um modelo de difusão para uma figura, e o formulário de submissão agora pergunta qual o autor fez.A política da Natureza de Springeré uma folha de crib útil quando o formulário específico do jornal é vago.
O que isso significa para o seu laboratório
O fardo prático cai sobre os laboratórios que produzem figuras, não sobre os editores. Esse fardo é pequeno se é incorporado no tubo de figuras e grande se for descoberto durante a revisão.
- Mantenha o arquivo de imagem bruto, o arquivo processado e o script ou configurações que os conectam.
- Se você estiver usando processamento assistido por IA, registre a ferramenta, a versão, o prompt ou as configurações e os painéis específicos que tocou.
- Verifique a política de figura do diário de destino antes de começar a desenhar, não quando você carrega.Uma figura proibida descoberta na revisão custa mais do que o tempo para redesenhar.
- Assigne uma pessoa no laboratório para possuir a pasta de documentação de imagem. Esse hábito converte uma solicitação de conformidade de um scramble em um e-mail de cinco minutos.
Nada disso torna os números mais científicos. torna-os mais verificáveis, o que é o que os editores de propriedades dizem que podem impor em escala.
Onde as regras podem quebrar
Estas políticas são mais limpas no papel do que na prática. A divulgação depende da memória do autor, e as ferramentas de detecção não rotulam de forma confiável um pixel como sintético. Eles encontram duplicação, clonagem, filtros inseridos e artefatos de compressão, então os editores usam essas descobertas para solicitar arquivos brutos.
Os dados de treinamento para modelos de texto a imagem incluem figuras tiradas de revistas e servidores de pré-impressão, e alguns editores assinaram acordos para licenciar seus arquivos.Lutas legais sobre treinamento de editores AIIsso irá moldar o que os autores podem enviar com confiança anos antes que as ferramentas de detecção cheguem.
Antes de submeter
Abra a política editorial da revista e procure a palavra "imagem".Se a política proíbe os números gerados por IA, planeje fornecer arquivos de origem para cada painel.Se isso os permite com divulgação, escreva a ferramenta e a versão exata na carta de apresentação e nos métodos. Faça isso antes da submissão, não depois que o editor o pede.
Photo by Brett Jordan on Unsplash