AI-erzeugte Bilder gefährden die wissenschaftliche Integrität
AI-erzeugte Bilder gefährden die wissenschaftliche Integrität
Die in der akademischen Welt verbreitete Devise *"Veröffentlichen oder untergehen" hat zu einem Anstieg wissenschaftlicher Fälschungen geführt – von erfundenen Studien bis hin zu manipulierten Bildern. Eine aktuelle Untersuchung zeigt, wie schwer selbst Expert:innen es haben, KI-generierte Bilder von echten zu unterscheiden. Eine Umfrage unter 250 Wissenschaftler:innen ergab, dass es nahezu unmöglich ist, echte Mikroskopieaufnahmen von KI-erzeugten zu unterscheiden. Besonders problematisch: Während klassische Bildbearbeitung mit Tools wie Photoshop oft Spuren hinterlässt, sind KI-generierte Fälschungen kaum als solche zu erkennen. Die Dimension des Problems überfordert die bisherigen Korrektur- und Begutachtungssysteme der Fachzeitschriften. So veröffentlichten Forscher:innen der University of California in San Diego 2023 manipulierte Mikroskopaufnahmen von Nanomaterialien – darunter "Nano-Puffs" oder "Nano-Cheetos". Noch beunruhigender: Die Doktorandin Nadiia Davydiuk erstellte überzeugende KI-Bilder, die selbst ihre Gruppenleiterin täuschten. Nun beschreibt eine neue nanowissenschaftliche Studie ein KI-generiertes Bild eines Materials, das an ein aufgepopptes Mais-Snack erinnert – getauft auf den Namen "Nano-Cheetos", erstellt mit Hilfe von ChatGPT. Das Team warnt vor der Undurchschaubarkeit solcher Fälschungen in der wissenschaftlichen Literatur. Als Gegenmaßnahmen schlagen die Forscher:innen vor, in Publikationen die Rohdaten der Messgeräte mit zu veröffentlichen, um Bildmanipulationen zu erschweren. Zudem sollten Fachzeitschriften und Gutachter:innen weniger Druck ausüben, "perfekte" Abbildungen zu liefern. Replikationsstudien könnten helfen, sowohl absichtliche Fälschungen als auch echte Fehler aufzudecken. Automatisierte Prüftools wie Proofig AI oder Imagetwin könnten unterstützend wirken – doch selbst sie erkennen nicht alle KI-generierten Bilder zuverlässig. Der Aufstieg KI-generierter Bilder* in der wissenschaftlichen Literatur stellt eine enorme Herausforderung dar. Zwar können Rohdaten und weniger Perfektionsdruck helfen, doch sind groß angelegte Lösungen nötig. Automatisierte Screenings, Replikationsstudien und eine erhöhte Wachsamkeit der Scientific Community sind entscheidend, um dieses wachsende Problem in den Griff zu bekommen.
