... und was wir dagegen tun können
Generative KI hat die Erzeugung gefälschter Mikroskopiebilder, die selbst für Experten von echten Bildern nicht zu unterscheiden sind, trivial gemacht. Als Forscher in der Nanowissenschaft müssen wir uns dieser Realität stellen und Strategien zum Schutz der Integrität unserer Disziplin diskutieren.
In der Fachzeitschrift Nature Nanotechnology geht Dr. Quinn A. Besford (IPF Dresden, Partner im Netzwerk NanoCarbon) in einem aktuellen und dringlichen Kommentar auf die zunehmenden Gefahren künstlicher Intelligenz (KI) in der Nanomaterialforschung ein und mögliche gleichzeitig Lösungsansätze. Der Beitrag lenkt die Aufmerksamkeit auf eine besorgniserregende neue Realität: Selbst erfahrene Forscher können immer weniger authentische Mikroskopiebilder von Nanomaterialien von KI-generierten Fälschungen unterscheiden. Diese Verschmelzung von Wahrheit und Fälschung gibt Anlass zu ernsthaften Bedenken hinsichtlich der Integrität wissenschaftlicher Publikationen, des Peer-Review-Verfahrens und des öffentlichen Vertrauens in die Nanowissenschaften.
Anstatt KI ausschließlich als Bedrohung darzustellen, betonen die Autoren die Notwendigkeit eines offenen und proaktiven Dialogs innerhalb der Nanomaterialforschungsgemeinschaft. Indem sie sowohl die Risiken als auch die Chancen anerkennen, können Forscher, Herausgeber und Institutionen gemeinsam neue Standards, Schutzmaßnahmen und Best Practices entwickeln. Nur durch gemeinsames Handeln kann die Nanomaterialforschung sicherstellen, dass KI-Werkzeuge die wissenschaftliche Forschung stärken und nicht behindern.
Der von Dr. Matthew Faria (Universität Melbourne) mitverfasste und von einer Gruppe von Nanomaterialwissenschaftlern, Zeitschriftenherausgebern, KI-Experten und wissenschaftlichen Forschern unterstützte Kommentar soll eine wichtige Diskussion anstoßen. Sein Aufruf zum Handeln ist eindeutig: Die Nanowissenschaftsgemeinschaft muss dringend Strategien entwickeln, um die Zuverlässigkeit der Forschung im Zeitalter der KI zu gewährleisten.
Dr. Quinn A. Besford
Group Leader
Nanostructured Materials
Physical Chemistry and Physics of Polymers
Leibniz Institute of Polymer Research Dresden
besford@ipfdd.de
Davydiuk, N., Krieg, E., Gaitzsch, J. et al. The rising danger of AI-generated images in nanomaterials science and what we can do about it. Nat. Nanotechnol. (2025). doi.org/10.1038/s41565-025-02009-9
