Génital rat disproportionné généré par l'IA fait son entrée dans un journal à comité de lecture

19 Février 2024 rapport

Cet article a été examiné selon le processus éditorial et les politiques de Science X. Les éditeurs ont mis en évidence les attributs suivants tout en garantissant la crédibilité du contenu:

• vérifié par des faits
• source fiable
• corrigé

par Bob Yirka , Phys.org

Les éditeurs de la revue Frontiers in Cell and Developmental Biology ont retiré un article après que des lecteurs leur ont signalé que les images de support avaient été générées de manière incorrecte par un générateur d'images IA. Dans leur rétractation, les éditeurs ont rapporté que la raison de la rétractation était que des "inquiétudes ont été soulevées concernant la nature de ses figures générées par IA".

Dans l'article, qui portait sur la recherche entourant les cellules souches chez de petits mammifères, les auteurs ont inclus des images représentant l'anatomie du rat qu'un système IA avait clairement créées. Sur une image, un seul rat semblait avoir un pénis et des testicules plus grands que le reste de son corps, ce qui ne se produit pas dans la nature. Une partie du texte accompagnant était également incompréhensible. Une autre image montrait une cellule de rat qui ne ressemblait pas à la structure réelle d'une cellule de rat.

Les images disproportionnées dans l'article sont susceptibles de contribuer aux discussions en cours dans la communauté scientifique concernant l'utilisation de l'IA pour générer du texte ou des images à utiliser dans des articles techniques, en particulier ceux publiés dans des revues établies.

Dans ce cas, il n'est pas clair comment de telles images problématiques ont abouti dans une revue à comité de lecture. Les auteurs, une équipe combinée de l'Hôpital Hong Hui et de l'Université Jiaotong en Chine, n'ont pas cherché à cacher le fait qu'ils avaient utilisé l'IA pour créer les images; ils ont même crédité Midjourney.

Certains dans la presse ont noté que Frontiers a une politique qui permet l'utilisation de matériaux générés par l'IA tant que leur utilisation est divulguée, ce qui était le cas dans cette instance. Cependant, la politique note également que des tentatives doivent être faites pour vérifier les informations produites par de tels systèmes, ce qui n'était clairement pas le cas dans ce malentendu.

Les éditeurs de Frontiers ont initialement publié une note sur l'article affirmant que l'article avait été corrigé et qu'une nouvelle version serait publiée sous peu. Peu de temps après, l'article a été retiré.

Les erreurs commises par les auteurs de l'article et l'équipe de la revue qui a approuvé sa publication sont susceptibles d'être les premières d'une longue série, bien qu'il ne soit pas encore clair quelles modifications seront nécessaires pour empêcher de telles erreurs de se reproduire à l'avenir.

© 2024 Science X Network