existieren“Wallstreet JournalIn einem aktuellen Artikel berichtete das Unternehmen, dass OpenAI tatsächlich bereits über ein Tool verfügt, das mit hoher Genauigkeit erkennen kann, ob ein Artikel von ChatGPT generiert wurdeBlogartikelveröffentlichte relevante Informationen über seine Forschung zur „Textwasserzeichen“-Technologie und erläuterte den Grund, warum das Tool noch nicht veröffentlicht wurde.
OpenAI gab an, dass die Wasserzeichentechnologie nur eine der vielen Lösungen ist, die sie „Textherkunft“ untersuchen. Andere umfassen KI-Klassifikatoren und Metadaten. Obwohl Textwasserzeichen in manchen Fällen „sehr genau“ sind, sind sie bei bestimmten Formen von Änderungen anfällig für Fehler. Dazu gehört die Verwendung eines Übersetzungssystems, das Umschreiben mit einem anderen generativen Modell oder die Anforderung, dass das Modell zwischen jedem Wort Sonderzeichen einfügen und diese dann löschen muss usw., was leicht zu Fehleinschätzungen führen kann.
Darüber hinaus hat OpenAI selbst Zweifel an der Rückverfolgung der Textquelle. Denn obwohl KI-generierte Texte Bereiche haben, in denen sie nicht verwendet werden sollten (z. B. Hausaufgaben von Schülern), kann eine strikte Rückverfolgung der Quelle andererseits auch „unverhältnismäßig“ sein bestimmte Gruppen betreffen“. Es könnte beispielsweise dazu führen, dass nicht-englische Muttersprachler, die KI als Schreibwerkzeug verwenden, stigmatisiert werden.
OpenAI sagte, es habe diese Risiken abgewogen und beschlossen, der Veröffentlichung seines weniger umstrittenen Tools zur Überprüfung von Audio- und Videoinhalten Vorrang einzuräumen. Ein Sprecher von OpenAI sagte gegenüber TechCrunch, dass OpenAI sich aufgrund seiner „Komplexität und potenziellen Auswirkungen auf das breitere Ökosystem“ für einen „umsichtigeren Ansatz“ bei Texten entschieden habe.
In Verbindung stehende Artikel:
Bleiben Sie mit den neuesten Technologienachrichten und Online-Shopping-Angeboten auf dem Laufenden und folgen Sie Yahoo Tech auf allen wichtigen sozialen Plattformen!
🎉📱Tech Facebook:https://www.facebook.com/yahootechhk
🎉📱 Tech Instagram:https://www.instagram.com/yahootechhk/
🎉📱 Technische WhatsApp-Community:https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8
🎉📱 Tech WhatsApp-Kanal:https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D
🎉📱 Tech-Telegram-Kanal:https://t.me/yahootechhk
