Imagens de IA invadem revistas científicas e enganam pesquisadores
Em 2024, uma revista científica publicou um artigo sobre biologia celular com uma figura que mostrava ratos com genitais anatomicamente impossíveis, rotulados com texto sem sentido. A imagem havia sido gerada por inteligência artificial e passou pela revisão por pares sem ser barrada. O caso viralizou nas redes e acendeu um debate que a comunidade científica vinha adiando.
Não se trata de um episódio isolado. Pesquisadores e jornalistas especializados em integridade científica registraram dezenas de casos semelhantes nos últimos dois anos, envolvendo periódicos de diferentes áreas, desde medicina até engenharia de materiais.
A velocidade com que a tecnologia superou os filtros editoriais
Ferramentas como Midjourney, DALL-E e Stable Diffusion avançaram em ritmo que os processos editoriais das revistas científicas simplesmente não acompanharam. Em 2022, imagens geradas por IA ainda apresentavam falhas visíveis: mãos com seis dedos, texto ilegível, proporções estranhas. Em 2024, essas mesmas ferramentas produzem imagens que enganam até especialistas treinados.
O problema tem uma camada adicional. Muitos periódicos científicos, especialmente os chamados 'predatórios', cobram taxas de publicação dos próprios autores e têm incentivo financeiro para aprovar o maior número possível de artigos. A revisão por pares, nesse contexto, torna-se superficial ou inexistente.
Mas mesmo periódicos tradicionais e bem estabelecidos foram afetados. O caso mais comentado envolveu o periódico Frontiers in Cell and Developmental Biology, que publicou em fevereiro de 2024 um artigo com imagens claramente geradas por IA, incluindo aquela figura de ratos com anatomia absurda. A revista retirou o artigo após a repercussão pública, mas o episódio já havia sido amplamente documentado.
Por que detectar essas imagens é tão difícil
Detectores automáticos de conteúdo gerado por IA existem, mas apresentam taxas de erro consideráveis. Ferramentas como o detector da OpenAI foram descontinuadas por falsos positivos frequentes. Outras soluções comerciais chegam a classificar erroneamente imagens legítimas de microscopia eletrônica como geradas por IA, o que cria um problema oposto: acusar pesquisadores honestos.
A dificuldade aumenta quando se considera que muitos laboratórios já usam IA de forma legítima para processar, colorir ou melhorar imagens científicas reais. A linha entre 'aprimoramento assistido por IA' e 'fabricação de dados' tornou-se tecnicamente nebulosa.
Além disso, revisores voluntários que trabalham sem remuneração nos processos de peer review raramente têm tempo ou treinamento específico para identificar artefatos de IA em imagens técnicas.
Quem está por trás dessas publicações fraudulentas
As motivações variam. Em alguns casos, pesquisadores sob pressão de publicar para manter financiamento ou progressão de carreira recorrem a atalhos. O fenômeno conhecido como 'publish or perish' cria um ambiente em que a quantidade de publicações importa mais do que a qualidade.
Em outros casos, há operações organizadas. Investigações jornalísticas identificaram redes de 'fábricas de artigos' na China, no Irã e em países do Leste Europeu que vendem autorias em artigos científicos prontos. Esses artigos frequentemente incluem figuras geradas por IA para simular experimentos que nunca foram realizados.
O pesquisador britânico Nick Wise, que monitora integridade científica, documentou casos em que o mesmo conjunto de imagens geradas por IA apareceu em artigos publicados em revistas diferentes, com pequenas variações, como se fossem experimentos independentes.
O impacto concreto sobre a ciência aplicada
A contaminação da literatura científica com dados fabricados não é apenas um problema de credibilidade abstrata. Médicos, engenheiros e formuladores de políticas públicas baseiam decisões em pesquisas publicadas.
Um artigo fraudulento sobre a eficácia de um material cirúrgico, por exemplo, pode influenciar protocolos hospitalares antes de ser retratado. O intervalo entre a publicação e a retratação costuma ser longo: uma análise do banco de dados Retraction Watch indicou que a média histórica é de mais de dois anos.
Durante esse período, o artigo pode ter sido citado dezenas de vezes por outros pesquisadores, contaminando trabalhos subsequentes.
Iniciativas para conter o problema
Algumas revistas passaram a exigir que autores declarem explicitamente o uso de IA na produção de figuras e textos. A revista Nature anunciou diretrizes específicas nesse sentido em 2023, proibindo o uso de imagens geradas por IA sem divulgação e revisão adicional.
Outros periódicos adotaram ferramentas de detecção baseadas em análise de metadados de imagens. Arquivos de imagem gerados por IA frequentemente carecem de metadados de câmera ou equipamento, o que pode ser um sinal de alerta.
A organização sem fins lucrativos COPE (Committee on Publication Ethics) publicou orientações atualizadas em 2024 sobre como editores devem lidar com suspeitas de manipulação por IA.
Ainda assim, especialistas em integridade científica apontam que nenhuma dessas medidas é suficiente de forma isolada. Elisabeth Bik, microbiologista conhecida por identificar manipulações em imagens científicas, declarou publicamente que o volume de casos suspeitos cresceu de forma que uma pessoa ou equipe pequena não consegue mais acompanhar manualmente.
O Retraction Watch, banco de dados que monitora retratações de artigos científicos, registrou um aumento expressivo no número de retratações relacionadas a imagens manipuladas ou fabricadas nos últimos três anos, embora parte desse crescimento também reflita maior capacidade de detecção.
A ciência sempre dependeu da confiança de que os dados apresentados são reais. Quando essa confiança é corroída, o custo recai sobre qualquer pessoa que um dia precisou confiar em um diagnóstico, em um medicamento ou em uma norma de engenharia baseada em evidências publicadas.
