Künstlich generierte unverhältnismäßig große Rattengenitalien finden ihren Weg in ein Peer-Review-Journal.

19. Februar 2024 Bericht

Dieser Artikel wurde gemäß dem redaktionellen Prozess und den Richtlinien von Science X überprüft. Die Herausgeber haben folgende Merkmale hervorgehoben und die Glaubwürdigkeit des Inhalts sichergestellt:

• Faktenprüfung
• Vertrauenswürdige Quelle
• Korrekturgelesen

von Bob Yirka, Phys.org

Die Redakteure des Journals Frontiers in Cell and Developmental Biology haben eine Arbeit zurückgezogen, nachdem ihnen von Lesern darauf hingewiesen wurde, dass unterstützende Bilder durch einen KI-Bildgenerator fehlerhaft erstellt worden waren. In ihrer Rücknahme berichten die Redakteure, dass der Grund für die Rücknahme war, dass "Bedenken hinsichtlich der Art der KI-generierten Figuren geäußert wurden".

In dem Artikel, der Forschungen über Stammzellen bei kleinen Säugetieren behandelte, enthielten die Autoren Bilder, die die Anatomie einer Ratte darstellten, die ein KI-System eindeutig erstellt hatte. In einem Bild schien eine einzelne Ratte einen Penis und Hoden zu haben, die größer waren als der Rest ihres Körpers - etwas, das in der Natur nicht vorkommt. Einige der begleitenden Texte waren ebenfalls unverständlich. Ein anderes Bild zeigte eine Rattezelle, die der tatsächlichen Struktur einer Rattezelle nicht ähnelte.

Die unverhältnismäßigen Bilder in der Arbeit werden voraussichtlich zu laufenden Diskussionen in der Wissenschaftsgemeinschaft über die Verwendung von KI zur Erzeugung von Texten oder Bildern für technische Arbeiten beitragen - insbesondere solche, die in etablierten Zeitschriften veröffentlicht werden.

In diesem Fall ist nicht klar, wie solche problematischen Bilder in einer peer-reviewten Zeitschrift gelandet sind. Die Autoren, ein kombiniertes Team aus dem Hong Hui Hospital und der Jiaotong University in China, versuchten nicht zu verschleiern, dass sie KI zur Erstellung der Bilder verwendet hatten; sie lobten sogar Midjourney dafür.

Einige in der Presse haben darauf hingewiesen, dass Frontiers eine Richtlinie hat, die die Verwendung von KI-generierten Materialien erlaubt, solange ihre Verwendung offengelegt wird, was in diesem Fall der Fall war. Die Richtlinie besagt jedoch auch, dass Versuche unternommen werden müssen, alles, was von solchen Systemen produziert wird, zu überprüfen, was bei diesem Missgeschick offensichtlich nicht der Fall war.

Die Redakteure von Frontiers veröffentlichten zunächst eine Notiz zu dem Artikel, in der behauptet wurde, dass der Artikel korrigiert worden sei und dass bald eine neue Version veröffentlicht werden würde. Kurz darauf wurde der Artikel zurückgezogen.

Die Fehler, die von den Autoren des Artikels und dem Team des Journals, das seine Veröffentlichung genehmigt hat, gemacht wurden, werden wahrscheinlich die ersten von vielen sein, obwohl es immer noch nicht klar ist, welche Änderungen erforderlich sein werden, um solche Fehler in der Zukunft zu verhindern.

© 2024 Science X Network