Pênis bizarro de rato criado por IA é publicado por revista científica

Uma importante revista científica retirou oficialmente um artigo do ar após constatar que o documento apresentava uma imagem gerada por Inteligência Artificial (IA) de um rato com órgãos genitais completamente desproporcionais, ao lado de sequências de palavras sem sentido. A reversão embaraçosa destaca o risco do uso de ferramentas de IA cada vez mais populares na literatura científica.

Embora algumas revistas importantes já estejam dominando a prática, os pesquisadores temem que o uso descontrolado de ferramentas de IA possa promover descobertas imprecisas e potencialmente causar danos à reputação de instituições e pesquisadores.

Erro de revisão grave

As imagens geradas por IA apareceram em um artigo publicado na revista Frontiers in Cell and Developmental Biology no início de fevereiro de 2024. Os três pesquisadores envolvidos no estudo, do Hospital Xi'an Honghui e da Universidade Xi'an Jiaotong, estavam investigando pesquisas atuais relacionadas a células-tronco de espermatozoides de pequenos mamíferos.

Como parte do artigo, os pesquisadores incluíram a ilustração de um rato de desenho animado com um pênis elevando-se sobre seu próprio corpo. Etiquetas apareceram ao lado da imagem com caracteres incoerentes, como “testtomcels”, “Dissisilcied” e “dck”. Posteriormente, os pesquisadores reconheceram abertamente terem usado o gerador de imagens de IA da plataforma Midjourney para produzir o resultado final do documento.

A ilustração do rato foi seguida por mais três figuras que supostamente representavam vias de sinalização complexas. Embora inicialmente parecessem menos chocantes visualmente do que o primeiro retrato, as imagens igualmente estavam cercadas por jargões sem sentido gerados por Inteligência Artificial. Combinados, os erros do artigo rapidamente chamaram a atenção de acadêmicos nas redes sociais — muitos dos quais questionavam o processo de revisão da revista. 

Inteligência Artificial na ciência

Embora muitos investigadores tenham alertado contra a utilização de material gerado por IA na literatura acadêmica, as políticas da Frontiers não proíbem os autores de utilizar ferramentas do tipo, desde que incluam uma divulgação adequada. Neste caso, o autor afirmou claramente que usou o gerador de imagens de IA da Midjourney para produzir os diagramas.

Ainda assim, as diretrizes para autores da revista observam que os números produzidos usando essas ferramentas devem ser verificados quanto à precisão, o que claramente não parece ter acontecido neste caso. Desde então, a revista emitiu uma retratação completa, dizendo que o artigo "não atende os padrões de rigor editorial e científico". A revista também afirmou que os autores do artigo não responderam aos pedidos de um revisor pedindo-lhes que revisassem os números.

“Pedimos sinceras desculpas à comunidade científica por este erro e agradecemos aos nossos leitores que rapidamente nos chamaram a atenção para isso”, escreveu a Frontiers em comunicado oficial. Na opinião de alguns especialistas, o fato de erros tão grotescos terem passado pela revisão de pares de uma revista científica conceituada é algo extremamente preocupante, o que é um indício de que números mais realistas gerados pela IA provavelmente já se infiltraram na literatura científica sem ninguém notar.