- Einige Wissenschaftler nutzen chatgpt, um ihre Arbeiten zu schreiben, aber die Anzeichen sind offensichtlich
- „Papierfabriken“ veröffentlichen gegen eine Publikationsgebühr eine Menge minderwertiger wissenschaftlicher Arbeiten
- LESEN SIE MEHR: Sports Illustrated wird vorgeworfen, KI-generierte Artikel veröffentlicht zu haben
Die Wissenschaft geriet diese Woche in einen Skandal, nachdem sich herausstellte, dass Forschungsarbeiten in Dutzenden von Fachzeitschriften von KI verfasst worden waren.
Bei einer Untersuchung wurden über 100 Artikel gefunden, die wahrscheinlich zumindest teilweise von ChatGPT verfasst wurden.
Diese Papiere sind aufgrund laxer oder nicht vorhandener Peer-Review-Prozesse bei gewinnorientierten Fachzeitschriften durchgefallen, was weitreichende Befürchtungen schürt, dass der Körper des menschlichen wissenschaftlichen Wissens schnell durch computergenerierten Müll minderer Qualität infiltriert wird.
Viele dieser Arbeiten wurden in obskuren wissenschaftlichen Fachzeitschriften veröffentlicht, aber Nachrichten über diese Art von wissenschaftlichem Betrug schaden dem Vertrauen der Öffentlichkeit in die Wissenschaft, da sind sich viele Wissenschaftler einig. Schon vor KI-generierten Texten in wissenschaftlichen Arbeiten haben sogenannte „Papierfabriken“ jahrelang minderwertige und sogar plagiierte Arbeiten produziert.
Der Einfluss von KI auf Forschungsarbeiten wurde durch einen neuen Bericht der Tech-Journalismus-Website aufgedeckt 404 Medien.
Es wurde festgestellt, dass es in google Scholar, Googles Suchtool für wissenschaftliche Arbeiten, 115 Ergebnisse für „Stand meiner letzten Wissensaktualisierung“ gab. Dieser Satz, der am Dienstag 188 Ergebnisse lieferte, wird vom Bot häufig verwendet, um Benutzern mitzuteilen, wie aktuell seine Informationen sind.
404 Medien berichteten, dass die Daten in den Dokumenten, die den Ausdruck enthielten, den Daten tatsächlicher ChatGPT-Datenaktualisierungen entsprachen.
Die Beiträge behandelten Themen wie Wirbelsäulenverletzungen, Batterietechnologien, ländliche Medizin, bakterielle Infektionen, Kryptowährung, das Wohlergehen von Kindern und sogar künstliche Intelligenz.
Viele der Zeitschriften, die diese betrügerischen Artikel veröffentlichen, scheffeln Geld, indem sie den Autoren Bearbeitungsgebühren für die Veröffentlichung ihrer Artikel in Rechnung stellen, die keine neuen Ideen enthalten.
Einige der Suchergebnisse sollen niemanden täuschen, vielmehr geht es um die Fallstricke bei der Verwendung von ChatGPT als Recherchetool.
„Don't Trust ChatGPT: A Case Study of a Defective Research Tool“ lautet der Titel eines solchen Artikels.
Wenn man alle Ergebnisse mit „ChatGPT“ entfernt, erhält man immer noch unglaubliche 135 Artikel, die den seltsamen Satz enthalten.
Einige dieser Artikel erscheinen legitim, während andere kaum verständlich sind: „Global Education Iducation and International Education Advocacy“ ist ein Beispiel für entstellte Titel.
Der Ausdruck erscheint sogar in a Papier darüber, wie man KI-Systeme transparenter und erklärbarer machen kann.
Bellingcat-Forscherin Kolina Koltai Gesendet ein Screenshot einer wissenschaftlichen Arbeit über X, in der die Forscher die fröhliche Antwort von ChatGPT in ihre wissenschaftliche Arbeit aufgenommen haben: „Sicherlich, hier ist eine mögliche Einführung für Ihr Thema.“
Neben der Tatsache, dass die Nutzung von ChatGPT einfach ist, ist beruflicher Druck ein Hauptgrund dafür.
Akademische Forscher stehen unter enormem Druck seitens ihrer Universitäten, Arbeiten zu veröffentlichen, da dies eine der wichtigsten Methoden zur Bewertung von Wissenschaftlern ist, wenn es darum geht, einen neuen Job zu bekommen oder eine Beförderung zu erhalten.
Diese Herausforderung ist so häufig, dass es einen bedrohlichen Ausdruck gibt, um sie zu beschreiben: „Veröffentlichen oder untergehen.“
Und für diejenigen, die den einfachen Ausweg suchen, sind zahlreiche wissenschaftliche Zeitschriften gerne bereit, diesem Wunsch nachzukommen.
Normalerweise ist der Veröffentlichungsprozess für eine seriöse wissenschaftliche Zeitschrift langwierig und erfordert ein Peer-Review durch andere Wissenschaftler, dem oft mehrere Überarbeitungsrunden folgen.
Wissenschaftler müssen möglicherweise sogar zusätzliche Experimente durchführen, um den Anforderungen von Zeitschriftenherausgebern und Gutachtern gerecht zu werden.
Dieser Prozess kann Monate oder sogar Jahre dauern, je nachdem, welche Änderungen erforderlich sind.
Aber im Allgemeinen ist das Endergebnis eine solide Arbeit, die geprüft, poliert und perfektioniert wurde.
Nicht so bei diesen „Papierfabriken“, die nahezu jede Einreichung annehmen – solange der Autor auch die Veröffentlichungsgebühr zahlt.
Das International Journal of New Media Studies hat beispielsweise zwei verschiedene Artikel veröffentlicht, die den verräterischen Satz „Stand meiner letzten Wissensaktualisierung“ enthalten.
Die Zeitschrift gibt an, Peer-Reviews durchzuführen, und hat sogar eine Seite, die der Beschreibung ihres Prozesses gewidmet ist.
„Mit der Peer-Review-Praxis soll sichergestellt werden, dass nur gute wissenschaftliche Erkenntnisse veröffentlicht werden“, heißt es in der Einleitung Seite auf der Website der Zeitschrift.
„Es handelt sich um einen objektiven Prozess, der das Herzstück guten wissenschaftlichen Publizierens bildet und von allen renommierten wissenschaftlichen Fachzeitschriften durchgeführt wird.“
Beim Peer-Review wird ein Manuskript an mehrere Experten – in der Regel drei – verschickt, die den Artikel sorgfältig lesen und ihre Kritik äußern. Auch ohne größere Überarbeitungen nimmt dieser Prozess Zeit in Anspruch, da Gutachter berufstätige Wissenschaftler sind, die in ihrem Zeitplan Zeit finden müssen, um die Arbeit zu lesen.
Dennoch verspricht die Zeitschrift, dass die Artikel ein bis zwei Tage nach ihrer Einreichung veröffentlicht werden.
DailyMail.com hat die Redakteure der Zeitschrift bezüglich ihrer Richtlinien zu KI-generierten Einreichungen kontaktiert.
Das International Journal of New Media Studies verlangt von Autoren 50 US-Dollar für die Veröffentlichung eines Artikels, weitere 20 US-Dollar für die Vergabe einer DOI-Nummer (die für die Online-Indexierung verwendet wird) und weitere 50 US-Dollar für den Erhalt einer gedruckten Ausgabe der Zeitschrift.
Dieses Tagebuch ist ein eklatantes Beispiel, aber kein Einzelfall.
Die Suche nach „Stand meiner letzten Wissensaktualisierung“ führt zu einer riesigen Liste von Artikeln, die in allen möglichen Fachzeitschriften veröffentlicht wurden und so unterschiedliche Themen wie Materialwissenschaft, Jugendgesundheit und Quantenphysik abdecken.
Es ist kein Geheimnis, dass Papierfabriken gegen eine Gebühr minderwertiges Papier herstellen.
Da KI-Chatbot-Tools jedoch einfacher zu verwenden und allgemeiner verfügbar werden, scheinen diese minderwertigen Artikel immer häufiger zu werden.