Scooping em Pesquisa de IA: As Alegações de Navier-Stokes da OpenAI e Enzima da Anthropic Desencadeiam Disputas de Prioridade com Cientistas

Em 8 de setembro, a OpenAI disse que um modelo interno produziu uma prova de que as equações tridimensionais Navier-Stokes podem desenvolver uma singularidade de tempo finito sob força externa suave.Em 23 de setembro, a Anthropic disse que cerca de 950 agentes Claude identificaram um sistema de enzimas anteriormente não caracterizado - transcriptases reversas associadas à matriz, ou ARTs - em vírus que infectam bactérias.

Tristan Buckmaster, um matemático da Universidade de Nova York, tinha passado cerca de um ano com Levent Alpöge, um matemático antropométrico, empurrando um programa de dinâmica de fluidos relacionado para o mesmo problema de prêmio.Mario Rodríguez Mestre, um candidato de doutorado em biologia computacional na Universidade de Copenhaga, diz que seu grupo estudou as mesmas enzimas Anthropic chamadas ARTs desde 2022, chamando-as de “jumbotrons”.

Nenhum pesquisador produziu evidências de que uma empresa tenha lido projetos ou conversas específicas.As disputas são sobre prioridade e proveniência, e sobre o que “descoberta independente” pode até mesmo significar quando a ferramenta e o concorrente são a mesma organização.

Uma prova, um prêmio e um telefonema

As equações Navier-Stokes descrevem como os fluidos se movem, e desde o trabalho fundador de Jean Leray em 1934, os matemáticos perguntaram se o fluxo tridimensional inicialmente suave pode explodir a velocidades infinitas em tempo finito.O Clay Mathematics Institute colocou um prêmio de US$ 1 milhão na questão em 2000.O resultado da OpenAI é mais estreito do que as primeiras manchetes sugeriram: a empresa provou uma explosão de tempo finito para a variante forçada do problema - declarações de barro C e D - onde uma força externa suave é permitida para agitar o fluido.

O método foi a história em si.OpenAI disse que cerca de 10.000 agentes simultâneos trabalharam por aproximadamente 88 horas e geraram cerca de 130 bilhões de tokens de saída, e que uma passagem separada com o GPT-6 Astra passou 17 horas verificando o argumento no assistente de prova Lean.Uma estimativa externa, do engenheiro da Universidade de Michigan Karthik Duraisamy, colocou computação comparável em cerca de US $ 6 milhões em taxas de varejo - várias vezes o prêmio OpenAI diz que não vai reclamar.A empresa postou um manuscrito de 166 páginas e uma formalização Lean em 9 de setembro.

Ele e Alpöge, trabalhando como uma colaboração pessoal sem apoio institucional, fizeram o que Buckmaster chamou de “progresso real” em 15 de agosto e verificou-o em Lean em 22 de agosto, usando uma abordagem de nicho construída sobre o trabalho de Diego Córdoba e Luis Martínez-Zoroa. Eles postaram seus prêmios, com formalizações Lean, em 7 de setembro - o dia antes do anúncio da OpenAI - cobrindo a equação de mídia porosa incompreensível, o sistema de Boussinesq bidimensional e as equações de Euler tridimensionais, com um quarto resultado sobre a hipo-dissipação de Navier-Stokes. Em 3 de setembro ele enviou um e-mail para a OpenAI. Em 6 de setembro, por sua conta,

O chefe de pesquisa Mark Chen disse que nenhuma pessoa ou agente pesquisou dados de usuários para resolver o problema. A própria declaração da empresa contém a frase que mantém o argumento vivo: embora improvável, ele “não pode excluir que dados desidentificados derivados de seu uso de nossos produtos ajudaram a melhorar nossos modelos.”Terence Tao, escrevendo em Mastodon, chamou o trabalho Buckmaster-Alpöge de “uma conquista notável” e disse que ele não viu nenhum obstáculo fundamental para estender sua abordagem para o problema completo Navier-Stokes.

A enzima reivindica, e uma cabeça de quatro anos começa

A pré-impressão de 23 de setembro da Anthropic descreveu uma busca que começou com uma única prompt de alto nível: encontrou transcriptases reversas incomuns – enzimas que copiam RNA em DNA – em um banco de dados de cerca de 1,9 bilhão de aglomerados de proteínas. Cerca de 950 agentes correram por cerca de 21 horas e consumiram cerca de 210 milhões de tokens. O enxame recolheu mais de 200.000 transcriptases reversas, estreitou-as para cerca de 3.500 sistemas candidatos, e enviou cerca de 20 dos mais promissores para revisão humana. Um agente marcou uma transcriptase reversa ao lado de uma longa série de repetições de DNA uniformemente espalhadas em fagos de jumbo, uma estrutura que ecoia o uso dos sistemas CRISPR.

O que o ART faz é desconhecido. A atividade da enzima não foi demonstrada, e nem o papel da proteína do parceiro nem qualquer função de edição de genes foi mostrada. O próprio Antropic disse que a transcrição reversa subjacente tinha aparecido em estudos anteriores de um fago de jumbo; sua alegação é que Claude foi o primeiro a reconhecer a matriz repetida e uma proteína vizinha como um único sistema. Uma reanálise dos dados publicados de uma infecção por fago de Staphylococcus lentus mostrou que as transcrições da matriz compõem até 8% do RNA de fago 15 minutos após a infecção - evidência de atividade, não de função. Feng Zhang, um pioneiro do CRISPR no MIT e no Broad Institute, chamou a descoberta de “geralmente intr

Então o Mestre falou.Ele disseO New York TimesSeu grupo de Copenhague tinha estudado as mesmas enzimas desde 2022 e tinha compartilhado projetos e material de tese com Claude ao longo de três anos de uso. Ele é um co-inventor de uma patente 2023 ReNegade Therapeutics cobrindo transcriptases reversas relacionadas. “A pergunta mais importante não é ‘Era ARTs já conhecido?’ Eles eram,” ele disse. A pergunta, ele acrescentou, é se Claude raciocinou seu caminho para o resultado ou foi guiado em parte por seu próprio trabalho. Anthropic respondeu que Claude “não foi treinado em nenhuma transcrição de usuário” e que sua equipe de biologia molecular não tem tal acesso, e disse que não está ciente de trabalho anteriormente publicado descrevendo o sistema ART.

O que as leituras mudaram

Os matemáticos têm agora cerca de seis semanas com o papel OpenAI, e o quadro mudou.Cientista AmericanoNo relatório de 13 de outubro, vários grupos trabalhando através da prova concluíram que não segue, afinal, o programa Córdoba-Martínez-Zoroa que Buckmaster e Alpöge perseguiram.Gonzalo Cao-Labora, um matemático da EPFL em Lausanne, disse claramente: “Quando você vai para os detalhes, é uma abordagem diferente.”

O resultado ainda depende de uma força anfísica, finamente ajustada que agita o fluido em uma explosão, que é por isso que o problema não forçado permanece aberto. Uma preocupação separada surgiu no lado da verificação: uma auditoria de outubro publicada por pesquisadores, incluindo Alexander Bastounis, argumentou que o repositório Lean da OpenAI não corresponde fielmente ao manuscrito escrito, citando um desacordo derivativo em Lemma 8.6 e uma desigualdade diferente em um argumento de singularidade. Camillo De Lellis, do Instituto para Estudos Avançados, disse ao Scientific American: “Eu honestamente não vejo uma resolução factual disso.” Uma alegação sobre onde as idéias vieram não pode ser verificada como uma prova Lean pode, porque é uma alegação sobre um processo de treinamento que

O campo responde

Em 11 de setembro, 25 Fields Medalists publicou uma carta aberta, “A Severe Misalignment of AI in Mathematics,” argumentando que os objetivos das empresas de IA e da comunidade matemática são “severamente desalinhados”, e que a pressa de problemas famosos como benchmarks de modelo é “destrutiva para a ciência da matemática.” A imagem de Hugo Duminil-Copin – cair no ar alguém no topo do Everest não é o mesmo que escalá-lo – capturou a objeção. O ponto mais agudo da carta foi que os recursos mais preciosos da profissão são estudantes e ideias. OpenAI respondeu convocando um grupo consultivo independente sobre matemática e IA, a ser hospedado no Instituto de Estudo Avançado, com membros iniciais incluindo Timothy Gowers, Edward Witten

A preocupação se espalhou para além das matemáticas.A Sociedade Matemática Francesa emitiu uma declaração marcando o que chamou de roubo bibliográfico e custos de energia, juntamente com “ruídos de coerção”.Um editorial de 16 de setembro na Nature instou as empresas de IA e a comunidade científica a concordar em maneiras confiáveis e transparentes de reconhecer contribuições.NaturezaRelatório de 7 de outubro: Sandra Laurentino, da Universidade de Münster, agora renomeia variáveis antes de colar código em um modelo, e Samuel Mehr, da Universidade de Auckland, escreveu uma política de laboratório que proíbe os alunos de carregar material protegido em ferramentas comerciais.Bem vindo, uma declaração do signatário do Grupo de Políticas de Fundadores de Pesquisa do Reino Unido, proíbe os revisores de inserir pedidos de subvenção confidenciais em IA geradora, e relatou em junho que cerca de um quarto dos candidatos a seus prêmios de início de carreira foram divulgados usando IA geradora.

O que isso significa para o seu laboratório

Em cinco semanas, dois pesquisadores disseram que o resultado anunciado de uma empresa parecia um trabalho que já tinham compartilhado com a ferramenta dessa empresa; em nenhum caso ninguém mostrou que uma conversa ou projeto específico foi lido ou usado diretamente. A exceção é o que as empresas se concedem: OpenAI diz que não pode excluir que o uso desidentificado ajudou a melhorar seus modelos, e a própria nota da Anthropic mostra que o agente swarm perdeu a matriz de repetição em dez repetições.

Essa assimetria – você não pode provar o que aconteceu dentro do modelo, e o vendedor não pode refutar completamente a influência indireta – é o que aNovos padrões de proveniênciaÉ por isso que os jornais continuam a apertar as suasPolíticas generative-AI para revisão por pares, uma vez que os revisores mantêm o mesmo material confidencial que os pesquisadores fazem. Para um laboratório de trabalho, os passos práticos são menos dramáticos do que as manchetes. Uma pós-doutora com a qual eu trabalho - chame-a Dr. R - parou de colar números não publicados em uma janela de bate-papo do consumidor na semana em que a disputa de Copenhague rompeu.

• Use níveis de Enterprise ou API, que geralmente excluem entradas do treinamento por padrão, e confirme isso por escrito.
• Verifique se um opt-out tem uma exceção de feedback que ainda pode encaminhar uma conversa para o treinamento.
• Mantenha registros locais de prompts, arquivos carregados, versões de modelo e saídas – o rastro de auditoria que os painéis de controle não lhe dão.
• Renomear variáveis e identificadores de faixa antes que qualquer coisa toque em um modelo, como Laurentino faz.

Um próximo passo

Antes do seu próximo ciclo de concessão ou submissão de manuscritos, sente-se com as contas de IA do seu laboratório e obtenha quatro respostas por escrito: se inputs treina modelos, se opt-out tem uma exceção de feedback, quanto tempo as solicitações são retidas, e quem dentro do vendedor pode revisar conversas armazenadas.

Photo by Brecht Corbeel on Unsplash