Na última semana, um acontecimento inusitado balançou a ciência — uma revista científica publicou uma pesquisa revisada por pares contendo diversas imagens geradas por inteligência artificial (IA)
, com pouco critério pelo realismo necessário. As bizarras imagens geradas
incluem um visualmente impactante rato com um pênis
anormalmente grande, o que chamou a atenção nas redes sociais.

O periódico em questão foi o Frontiers
, em sua divisão Cell Development and Biology
, e o estudo é bastante específico e de nome complicado: “Funções celulares das células-tronco espermatogoniais em relação à via de sinalização JAK/STAT”
, em tradução livre. Poucas pessoas fora do nicho científico se interessariam pelo tema, que chamou a atenção devido à natureza das imagens.

It’s finally happened. A peer-reviewed journal article with what appear to be nonsensical AI generated images. This is dangerous. pic.twitter.com/Ez54H6l7iZ

–
Podcast Canaltech: de segunda a sexta-feira, você escuta as principais manchetes e comentários sobre os acontecimentos tecnológicos no Brasil e no mundo. Links aqui: https://canaltech.com.br/podcast/

–

— 🔥Kareem Carr | Statistician 🔥 (@kareem_carr) February 15, 2024

Os responsáveis pelo estudo são cientistas da Universidade Jiaotong e do Hospital Hong Hui, ambos na China. Após a repercussão do artigo e alvoroço da comunidade científica, que considerou o uso indiscriminado de ferramentas de IA como nocivo ao mundo acadêmico, a editoria da revista Frontiers
retirou a publicação na última quinta-feira (15), ficando apenas dois dias no ar.

Inteligência artificial na ciência

A imagem de maior destaque no incidente é a do rato em corte vertical, apresentando um pênis anormalmente grande e dissecação de seus órgãos fora de proporção. Além das bizarrices anatômicas que a IA cometeu
, com tecidos e células sem sentido, também há textos que lembram vagamente termos científicos, mas não querem dizer nada, como “testtomcels”, “iollote sserotgomar cell”, “retat”, “dissilced” e “dck”.

Além do roedor impossivelmente dotado, representações de recortes de células presentes no restante do paper são igualmente desprovidas de sentido, cheias de textos truncados gerados automaticamente e com aberrações típicas do exagero cometido pelas IAs, como excesso de elementos e um aspecto visual que lembra mais uma criatura alienígena (ou uma pizza, nas palavras da revista Vice) do que algo animal.

Por falar na Vice
, sua divisão Motherboard
entrou em contato com os responsáveis pela revisão do artigo para descobrir o que teria acontecido. Jingbo Dai, da Universidade Northwestern, nos EUA, revisou o estudo e afirmou que checou apenas os dados científicos brutos, não tendo responsabilidade pelas imagens — cientificamente, o conteúdo estava correto.

Segundo o cientista, a editora responsável pela Frontiers é que deve explicações por outros detalhes, como as imagens. Um segundo revisor, baseado na Índia, não quis comentar o caso, segundo a Vice
. Os responsáveis pelo estudo creditaram a ferramenta Midjourney
em seu trabalho, e a Frontiers
afirmou que o uso de IA é permitido, contanto que a precisão factual seja garantida pelos autores.

A adaptação da ciência ao uso de IA está passando por diversos percalços — ano passado, a revista Nature
baniu o uso de IAs generativas como um todo, por exemplo.

Leia a matéria no Canaltech
.

Trending no Canaltech: