A corrida para colocar a IA geradora na publicação científica produziu uma disputa política que ninguém esperava.
Através de 2023 e 2024, grandes revistas e financiadores de pesquisa silenciosamente mudaram suas regras sobre o que um revisor de pares pode fazer com um modelo de idioma grande. Os Institutos Nacionais de Saúde dos EUA, Elsevier, Springer Nature, Wiley, a JAMA Network e o Comitê de Ética de Publicação todos publicaram ou atualizaram orientação. A instrução compartilhada: não colar um manuscrito não publicado em uma ferramenta pública de IA, e não deixe que alguém escreva o relatório do árbitro.
Parece uma correção administrativa estreita.Não é. A revisão por pares permanece a única parte da publicação de revistas onde a confidencialidade e o julgamento de especialistas são o produto inteiro. Um papel fraco pode ser corrigido após a publicação. Um manuscrito vazado ou uma crítica alucinada não pode ser lembrado.
Sistemas de IA geradores como ChatGPT, Claude e Gemini agora se sentam dentro dos fluxos de trabalho de pesquisa diários para redigir, codificar, resumir o texto de subvenção e preparar materiais de curso. Os editores passaram anos incentivando esses usos. Um relatório de árbitro é diferente. Requer uma avaliação específica de dados não publicados, métodos e interpretação sob um acordo de confidencialidade. Uma vez que um manuscrito entra em um modelo com configurações de retenção incertas, essa negociação é quebrada.
Aqui está a captura
Os editores veem o relatório final, não o processo de elaboração.Um revisor pode executar um modelo privado em uma máquina local, colar um manuscrito em seções, apoiar-se em uma ferramenta institucional com seus próprios termos de dados, ou pedir a um colega para resumir a apresentação, e nenhum editor notará.
Classificadores de texto permanecem pouco confiáveis em prosa curta, técnica, específica de pessoa, e uma acusação falsa contra um árbitro é institucionalmente dispendiosa em um sistema que já luta para encontrar revisores.
As políticas também se dividem sobre a questão mais básica: divulgação ou proibição. Alguns editores permitem a IA gerativa se o seu uso for declarado. Outros proíbem-na completamente. Alguns financiadores proíbem qualquer assistência de IA na revisão de subvenções. Um único revisor pode enfrentar três padrões diferentes na mesma semana.
Os anúncios demonstram intenção, mas a aplicação ainda depende do sistema de honra.
O que os grandes jogadores realmente mudaram
Em junho de 2018, os Institutos Nacionais de Saúde dos Estados UnidosProibir os revisores de usar a AI generativaAnalisar ou criticar os pedidos de subvenção, alertando que tais ferramentas podem comprometer a confidencialidade e a integridade do processo.
A orientação do revisor da Elsevier diz que os árbitros não devem usar ferramentas de geração de IA ou de IA para ajudar na revisão científica de um manuscrito.A política do editor centra-se na confidencialidade, responsabilidade pessoal, originalidade e divulgação, e pede aos revisores que mantenham as submissões fora de sistemas não aprovados.
A Springer Nature atualizou suas políticas editoriais para dizer que os revisores não devem carregar trabalhos não publicados para serviços de IA generativos e não devem usar as ferramentas para redigir seus relatórios.
A Rede JAMA e as revistas publicadas pela Associação Americana para o Avanço da Ciência emitiram restrições comparáveis sobre a entrada de texto manuscrito em sistemas de IA.Manter o fardo sobre os seres humanosO revisor listado é o proprietário do relatório, e qualquer envolvimento de IA deve ser transparente sem remover responsabilidade.
Photo by Markus Winkler on Unsplash
O que as proibições cobrem
As regras variam, mas a maioria das novas políticas se agrupam em torno de um pequeno conjunto de ações.
- Carregar um manuscrito não publicado, abstração, figura ou comentário do revisor para uma ferramenta de IA generativa pública.
- Usando a saída de um modelo de idioma como base de um relatório de árbitro sem ler e verificar o documento subjacente.
- Delegar julgamentos sobre novidade, rigor, significado ou reprodutibilidade ao software.
- Confiar em resumos de literatura gerados por IA que possam fabricar ou atribuir referências erradas.
O último ponto não é hipotético. A IA geradora tem um hábito documentado de inventar citações, e os editores temem que essas fabricações migrem para relatórios de árbitros.Atualização do STM sobre o AI citation-stuffing em manuscritosuma pressão semelhante no lado do autor.
O que geralmente permanece permitido é o trabalho unglamorous: correção gramatical em uma ferramenta sem acesso de treinamento, formatação de referência básica, resumo de informações públicas antes da chegada do manuscrito e leitura manual.
Hype versus Realidade
Realidade: as proibições são significativas como um exercício de definição de normas e fracas como um mecanismo de aplicação. Eles impedirão vazamentos ocasionais e não intencionais. Eles não impedirão um árbitro determinado com um modelo local ou uma plataforma de IA universitária coberta por um acordo de processamento de dados.
Os defensores da IA generativa na revisão de pares apontam para vários usos legítimos. Pode ajudar um falante de inglês não nativo a polir um relatório. Pode marcar inconsistências estatísticas na velocidade. Pode resumir as próprias anotações de um revisor. Nenhum deles requer a exposição do manuscrito a um chatbot do consumidor.
Os editores sabem disso.Suas políticas não são anti-tecnologia tanto quanto anti-conveniente.O problema é que a conveniência é exatamente o que impulsiona a adoção, e as revistas não construíram um caminho claro para uma revisão segura assistida por IA em escala.
A indexação nunca foi uma garantia de qualidade de revisão, como observamosInforme-se sobre a indexação da revistaAs novas regras de IA são outro lembrete de que as políticas no papel são tão fortes quanto o trabalho editorial por trás delas.
Verdade: a onda de políticas é real e a lacuna de aplicação é grande. A clareza varia de revista para revista. Assuma que o padrão mais rigoroso se aplica até que um editor diga o contrário.
O que os advogados de carreira precoce devem fazer
Os pedidos de revisão por pares muitas vezes chegam no pior momento possível para pesquisadores de carreira precoce: durante a escrita de tese, entre experimentos, em uma busca de emprego e muitas vezes sem pagamento.As novas regras adicionam outra camada.
Antes de aceitar uma revisão, leia a política de IA generativa da revista. Se você planeja usar qualquer ferramenta de IA, mesmo para gramática, divulgá-la ao editor em uma breve nota.
Mantenha o manuscrito offline. Use gerentes de referência e software estatístico que não requerem o upload da submissão. Se você precisar de ajuda linguística, use um colega ou um editor humano pago sob termos de confidencialidade.
O pior resultado não é ser dito não; é perguntado mais tarde se um relatório do revisor que carrega seu nome foi escrito por software que você não revelou.
Para os pesquisadores que se candidatam a posições onde o serviço de revisão por pares conta, um registro documentado de revisão cuidadosa e confidencial permanece uma credencial.
Photo by Jonathan Kemper on Unsplash
A advertência mais ponderada vem dos próprios revisores. Cada nova política move o fardo para o lado, não para cima. Uma regra de confidencialidade só funciona se a pessoa que detém o manuscrito recusa o atalho. Essa é uma norma profissional que pesquisadores seniores podem ensinar, revistas podem reforçar, mas nenhum termo de uso pode instalar.