Genitali di ratti sproporzionati generati dall'IA fanno il loro ingresso in una rivista scientifica peer-reviewed.

19 febbraio 2024 rapporto

Questo articolo è stato esaminato secondo il processo editoriale e le politiche di Science X. Gli editori hanno evidenziato i seguenti attributi garantendo la credibilità dei contenuti:

• verificati sui fatti
• fonte affidabile
• corretti

di Bob Yirka, Phys.org

Gli editori della rivista Frontiers in Cell and Developmental Biology hanno ritirato un articolo dopo che è stato portato alla loro attenzione dai lettori che le immagini di supporto erano state generate in modo improprio da un generatore di immagini AI. Nel loro ritiro, gli editori riferiscono che il motivo del ritiro è che sono stati sollevati "preoccupazioni riguardanti la natura delle figure generate dall'IA".

Nell'articolo, che riguardava la ricerca sulle cellule staminali in piccoli mammiferi, gli autori hanno incluso immagini che raffiguravano l'anatomia del ratto chiaramente create da un sistema AI. In una foto, un singolo ratto sembrava avere un pene e testicoli più grandi rispetto al resto del suo corpo - una situazione che non si verifica in natura. Parte del testo che accompagnava era anche incomprensibile. Un'altra immagine mostrava una cellula di ratto che non assomigliava alla vera struttura di una cellula di ratto.

Le immagini sproporzionate nell'articolo probabilmente contribuiranno alle discussioni in corso nella comunità scientifica riguardo all'uso di AI nella generazione di testo o immagini da utilizzare in articoli tecnici - in particolare quelli pubblicati in riviste consolidate.

In questo caso, non è chiaro come queste immagini problematiche siano state pubblicate su una rivista peer-reviewed. Gli autori, un team combinato dell'Ospedale Hong Hui e dell'Università Jiaotong in Cina, non hanno cercato di nascondere il fatto di aver utilizzato l'AI per creare le immagini; hanno addirittura accreditato Midjourney.

Alcuni media hanno notato che Frontiers ha una politica che permette l'uso di materiali generati da AI a patto che ne venga fatta menzione, come è avvenuto in questo caso. Tuttavia, la politica sottolinea anche che è necessario verificare i contenuti prodotti da tali sistemi, il che chiaramente non è stato fatto in questo caso di errore.

Gli editori di Frontiers hanno inizialmente pubblicato una nota sull'articolo affermando che l'articolo era stato corretto e che una nuova versione sarebbe stata pubblicata a breve. Poco dopo, l'articolo è stato ritirato.

Gli errori commessi dagli autori dell'articolo e dal team della rivista che ne ha approvato la pubblicazione probabilmente saranno i primi di molti a venire, sebbene non sia ancora chiaro quali modifiche saranno necessarie per evitare che tali errori si verifichino in futuro.

© 2024 Science X Network