ByteDance gehalten Studie widmet sich der Verbesserung der Genauigkeit der Antworten verschiedener Sprachmodelle durch deren Training. Der Studie zufolge versuchte OpenAI dabei, die Verwendung urheberrechtlich geschützter Bücher zu verbergen.

Die Forscher fanden heraus, dass der von OpenAI erstellte Chatbot ChatGPT es vermeidet, auf Benutzeranfragen zu reagieren, die Phrasen aus urheberrechtlich geschütztem Material enthalten. Ein Beispiel wäre, wenn ein Benutzer ein Fragment aus einem Buch anbietet und darum bittet, den Text fortzusetzen. In früheren Versionen von ChatGPT wurde diese Aufgabe problemlos gelöst.

Experten gehen davon aus, dass die Entwickler von ChatGPT einen Mechanismus in das Modell eingeführt haben, der feststellt, wann der Benutzer versucht, urheberrechtlich geschützte Inhalte abzurufen, oder die Ähnlichkeit zwischen der generierten Antwort und urheberrechtlich geschützten Inhalten überprüft. Dieses Verhalten wird jedoch nicht immer beobachtet.

Die Studie umfasste auch die Analyse verschiedener Versionen von ChatGPT, OPT-1.3B von Meta, FLAN-T5 von google, DialoGPT von Microsoft und ChatGLM von der Tsinghua-Universität in China. Alle Models haben Anfragen mit Sätzen aus den Harry-Potter-Büchern von JK Rowling erfolgreich bearbeitet. Unterschiede in den Antworten waren nicht signifikant. Die Forscher stellen fest, dass generierter Text eher wie urheberrechtlich geschützter Inhalt als wie zufällig generierter Inhalt aussieht.

Es wird davon ausgegangen, dass durch die Aktualisierung von ChatGPT geschützte Inhalte vor Benutzern geschützt werden, die diese gezielt mithilfe von Anfragen extrahieren möchten.

In der Vergangenheit sah sich OpenAI mit Klagen zweier amerikanischer Autoren konfrontiert, die dem Unternehmen vorwarfen, ihre Werke zum Trainieren künstlicher Intelligenz zu nutzen. Später schlossen sich ihnen drei weitere Autoren an und reichten Klagen gegen OpenAI und Meta* ein. Sie behaupteten, dass die neuronalen Netze ChatGPT und LLaMA auf Daten von Raubkopien wie Bibliotik, Library Genesis und Z-Library trainiert wurden.

* Das Unternehmen Meta und seine Produkte (Instagram und Facebook) gelten als extremistisch, ihre Aktivitäten sind auf dem Territorium der Russischen Föderation verboten.