Eine Wiener Datenschutzkampagnengruppe, NOYB (None of Your Business), kündigte Pläne an, eine Beschwerde gegen chatgpt einzureichen, mit der Behauptung, das KI-Tool habe falsche Antworten erfunden, die selbst sein Erfinder OpenAI nicht korrigieren konnte.

Halluzinationen von ChatGPT in Frage

Laut NOYB neigt ChatGPT zur „Halluzination“, was bedeutet, dass es Antworten erzeugt, die nicht sachlich korrekt sind.

Das Tool wurde im November 2022 inmitten eines großen KI-Hypes eingeführt, der viele dazu veranlasste, es für verschiedene Zwecke zu nutzen.

Die Popularität des Chatbots löste einen breiteren KI-Wettbewerb in der Tech-Branche aus, es kam jedoch auch zu Kontroversen wegen halluzinierender Informationen und Urheberrechtsvorwürfen.

OpenAI hat anerkannt, dass ChatGPT durch die Vorhersage wahrscheinlicher Wörter als Reaktion auf Benutzeraufforderungen funktioniert, ohne die Richtigkeit der bereitgestellten Informationen zu garantieren.

NOYB argumentiert, dass Ungenauigkeiten bei Informationen über Einzelpersonen inakzeptabel seien. Das EU-Recht schreibt vor, dass personenbezogene Daten korrekt sein müssen, wie in Artikel 5 der DSGVO dargelegt.

Nach Angaben der Gruppe haben Einzelpersonen auch Rechte gemäß der DSGVO, etwa das Recht auf Berichtigung (Artikel 16) und das Recht auf Zugang (Artikel 15), die die Richtigkeit und Transparenz der Daten gewährleisten.

Maartje de Graaf, Datenschutzanwältin bei NOYB, betont die Folgen falscher Informationen, insbesondere für Einzelpersonen.

„Das Erfinden falscher Informationen ist an sich schon recht problematisch. Aber wenn es um falsche Informationen über Einzelpersonen geht, kann das schwerwiegende Folgen haben. Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen.“ „ de Graaf sagte in einer offiziellen Erklärung.

„Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt.“

Trotz falscher Informationen von ChatGPT weigerte sich OpenAI Berichten zufolge unter Berufung auf technische Einschränkungen, Daten über Einzelpersonen zu berichtigen oder zu löschen. Die Gruppe behauptet, dass die Antwort von OpenAI auf Zugriffsanfragen im Rahmen der DSGVO unzureichend war und keine Einzelheiten zu den verarbeiteten Daten offengelegt hat.

Lesen Sie auch: OpenAI und Microsoft werden von großen Zeitungen wegen Urheberrechtsverletzung verklagt

NOYB reicht eine Beschwerde gegen OpenAI ein

NOYB hat bei der österreichischen Datenschutzbehörde (DSB) eine Beschwerde gegen OpenAI eingereicht und fordert eine Untersuchung seiner Datenverarbeitungspraktiken im Zusammenhang mit großen Sprachmodellen wie ChatGPT.

Die Kampagnengruppe möchte die Einhaltung der DSGVO sicherstellen und Korrekturmaßnahmen durchsetzen, möglicherweise durch EU-Zusammenarbeit.

Die zunehmende Beliebtheit von ChatGPT hat die Aufmerksamkeit europäischer Datenschutzbehörden auf sich gezogen, und Behörden wie die italienische Datenschutzbehörde und der Europäische Datenschutzausschuss (EDPB) prüfen die Genauigkeit und Datenverarbeitungspraktiken von ChatGPT.

Trotz der Vorwürfe hat OpenAI eingeräumt, dass ChatGPT dazu neigt, ungenaue Informationen zu generieren. Der Chatbot trägt immer einen Haftungsausschluss mit der Aufschrift: „ChatGPT kann Fehler machen. Erwägen Sie, wichtige Informationen zu überprüfen.“

Zum jetzigen Zeitpunkt beträgt der Wissensstand nur bis Januar 2022.

Verwandter Artikel: OpenAI lehnt Urheberrechtsklage der New York Times mit „Hacking“-Vorwürfen ab

ⓒ 2024 TECHTIMES.com Alle Rechte vorbehalten. Nicht ohne Genehmigung reproduzieren.