Derzeit verwenden Schüler häufig ChatGPT zum Schreiben von Hausaufgaben. Obwohl OpenAI in der Vergangenheit den KI-Textdetektor AI Classifier eingeführt hat, um festzustellen, ob die von Schülern eingereichten Hausaufgaben von ChatGPT erstellt wurden, wurde dieser Ende Juli abgelehnt letztes Jahr wegen „geringer Genauigkeit“. Nun hat OpenAI seinen Kurs geändert und Textwasserzeichen mit anderen Erkennungsmethoden entwickelt. Aufgrund der Komplexität dieser Technologie und der möglichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus erwägt das Unternehmen jedoch sorgfältig die Einführung des Tools.

Ein Sprecher von OpenAI wies darauf hin, dass die vom Unternehmen entwickelte Text-Wasserzeichen-Technologie zwar großes Potenzial habe, bei der Untersuchung von Alternativen jedoch mögliche erhebliche Risiken berücksichtigt werde, darunter die Möglichkeit der Umgehung durch böswillige Akteure und das Potenzial für nicht englischsprachige Benutzer . eine unverhältnismäßige Auswirkung verursachen.

Durch die Textwasserzeichentechnologie konzentriert sich OpenAI auf die Erkennung von von ChatGPT generiertem Text und erkennt nicht die generierten Ergebnisse anderer Modelle. Das Prinzip besteht darin, die Art und Weise, wie ChatGPT Wörter auswählt, geringfügig zu ändern und so ein unsichtbares Wasserzeichen im Text zu erzeugen, das dann von unabhängigen Tools erkannt werden kann.

Als das Wall Street Journal am Sonntag (4.) einen Bericht veröffentlichte, der das Tool enthüllteBerichtDanach veröffentlichte OpenAI am selben Tag sofort einen offiziellen Blog-Artikel, der ursprünglich im Mai veröffentlicht wurde.erneuernDer Hauptinhalt des Updates befasst sich mit der Forschung zur Erkennung von KI-generierten Inhalten. In dem Artikel wurde erwähnt, dass die Textwasserzeichentechnologie „sehr genau“ erkennen kann, solange es sich um „lokale Textmanipulationen“ wie Umschreiben handelt. Wenn jedoch ein Übersetzungssystem verwendet oder durch ein anderes generatives Modell umgeschrieben wird oder sogar eine „umfassende Textmanipulation“ erfolgt, bei der das generative Modell zwischen jedem Wort ein Sonderzeichen einfügen und es dann löschen muss, ist die Erkennungsleistung dieser Technologie weniger zuverlässig .

Aus diesem Grund geht OpenAI davon aus, dass die Technologie von böswilligen Akteuren leicht umgangen werden kann. Da die Generierung von KI für Nicht-Englisch-Sprecher beim Lernen und Forschen sehr hilfreich ist, könnte die Technologie ihre Sicht auf KI als nützliches Schreibwerkzeug voreingenommen stigmatisieren und dadurch zu Problemen bei ihrem täglichen Lernen und Arbeiten führen. Allerdings befindet sich die Technologie noch in der Entwicklung und ich glaube, dass das Unternehmen Verbesserungen vornehmen wird, um diese Probleme anzugehen.

(Quelle des ersten Bildes: Science and Technology News)