[ad_1]

  • Fb Share Btn

  • Google Share Btn

chatgpt%E7%94%9F%E6%88%90%E6%96%87%E7%AB%A0-800×450.jpg“ class=“attachment-post-thumbnail size-post-thumbnail wp-post-image“ alt=“Hören Sie auf, ChatGPT zum Erledigen Ihrer Hausaufgaben zu verwenden! OpenAI entwickelt Wasserzeichen, die betrügerische Texte erkennen können“ itemprop=“image“/>

Derzeit verwenden Schüler häufig ChatGPT zum Schreiben von Hausaufgaben. Obwohl OpenAI in der Vergangenheit den KI-Textdetektor AI Classifier eingeführt hat, um festzustellen, ob die von Schülern eingereichten Hausaufgaben von ChatGPT erstellt wurden, wurde dieser Ende Juli abgelehnt letztes Jahr wegen „geringer Genauigkeit“. Nun hat OpenAI seinen Kurs geändert und Textwasserzeichen mit anderen Erkennungsmethoden entwickelt. Aufgrund der Komplexität dieser Technologie und der möglichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus erwägt das Unternehmen jedoch sorgfältig die Einführung des Tools.

Ein Sprecher von OpenAI wies darauf hin, dass die vom Unternehmen entwickelte Text-Wasserzeichen-Technologie zwar großes Potenzial habe, bei der Untersuchung von Alternativen jedoch mögliche erhebliche Risiken berücksichtigt werde, darunter die Möglichkeit der Umgehung durch böswillige Akteure und das Potenzial für nicht englischsprachige Benutzer . eine unverhältnismäßige Auswirkung verursachen.

Durch die Textwasserzeichentechnologie konzentriert sich OpenAI auf die Erkennung von von ChatGPT generiertem Text und erkennt nicht die generierten Ergebnisse anderer Modelle. Das Prinzip besteht darin, die Art und Weise, wie ChatGPT Wörter auswählt, geringfügig zu ändern und so ein unsichtbares Wasserzeichen im Text zu erzeugen, das dann von unabhängigen Tools erkannt werden kann.

Als das Wall Street Journal am Sonntag (4.) einen Bericht veröffentlichte, der das Tool enthüllteBerichtDanach veröffentlichte OpenAI am selben Tag sofort einen offiziellen Blog-Artikel, der ursprünglich im Mai veröffentlicht wurde.erneuernDer Hauptinhalt des Updates befasst sich mit der Forschung zur Erkennung von KI-generierten Inhalten. In dem Artikel wurde erwähnt, dass die Textwasserzeichentechnologie „sehr genau“ erkennen kann, solange es sich um „lokale Textmanipulationen“ wie Umschreiben handelt. Wenn jedoch ein Übersetzungssystem verwendet oder durch ein anderes generatives Modell umgeschrieben wird oder sogar eine „umfassende Textmanipulation“ erfolgt, bei der das generative Modell zwischen jedem Wort ein Sonderzeichen einfügen und es dann löschen muss, ist die Erkennungsleistung dieser Technologie weniger zuverlässig .

Siehe auch  Der nächste Chip von Qualcomm bringt ChatGPT-ähnliche KI auf erschwinglichere Telefone

Aus diesem Grund geht OpenAI davon aus, dass die Technologie von böswilligen Akteuren leicht umgangen werden kann. Da die Generierung von KI für Nicht-Englisch-Sprecher beim Lernen und Forschen sehr hilfreich ist, könnte die Technologie ihre Sicht auf KI als nützliches Schreibwerkzeug voreingenommen stigmatisieren und dadurch zu Problemen bei ihrem täglichen Lernen und Arbeiten führen. Allerdings befindet sich die Technologie noch in der Entwicklung und ich glaube, dass das Unternehmen Verbesserungen vornehmen wird, um diese Probleme anzugehen.

(Quelle des ersten Bildes: Science and Technology News)

Möchtest du uns einen Kaffee spendieren?

Symbol-Tag

65 Yuan pro Tasse Kaffee

Ihre Kaffeepatenschaft wird uns am Laufen halten

Der Gesamtbetrag beträgt NT$ 0 Yuan

„Fragen und Antworten zum Kaffeekauf“

[ad_2]

5/5 - (407 votes)
Anzeige
Nina Weber
Nina Weber is a renowned Journalist, who worked for many German Newspaper's Tech coloumns like Die Zukunft, Handelsblatt. She is a contributing Journalist for futuriq.de. She works as a editor also as a fact checker for futuriq.de. Her Bachelor degree in Humanties with Major in Digital Anthropology gave her a solid background for journalism. Know more about her here.

Kommentieren Sie den Artikel

Bitte geben Sie Ihren Kommentar ein!
Bitte geben Sie hier Ihren Namen ein