Die österreichische Datenschutzorganisation noyb verklagt OpenAI wegen fehlerhafter Antworten von chatgpt. Die Antworten haben möglicherweise gegen EU-DSGVO-Gesetze und -Vorschriften verstoßen.

Ein Test fragte für ein Geburtsdatum. Der GenAI-Antrag antwortete mit einem falschen Datum, obwohl er hätte angeben müssen, dass ihm hierzu keine entsprechenden Daten vorliegen. Auch aufgrund der DSGVO durften keine Daten bereitgestellt werden.

Die Organisation für Datenschutzrechte forderte OpenAI auf, die Antworten zu korrigieren oder zu löschen, mit der Begründung, dass dies gegen geltende europäische Datenschutzgesetze und -vorschriften verstoße. Der KI-Riese weigerte sich jedoch, dies mit der Begründung zu tun, es sei nicht möglich, Informationen über die verarbeiteten Daten, deren Quellen und Empfänger herauszugeben.

Laut noyb zeigt dies, dass ChatGPT weiterhin halluziniert und daher immer noch falsche Antworten liefern kann. „Das Erfinden falscher Informationen ist an sich schon ziemlich problematisch. Doch wenn es um falsche Angaben zu Personen geht, kann das schwerwiegende Folgen haben. Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen. Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt“, sagte Maartje de Graaf, Datenschutzanwältin bei noyb.

Beschwerde bei der Datenschutzbehörde

Aufgrund dieser Reaktion reicht noyb nun eine Beschwerde bei der österreichischen Datenschutzbehörde ein. Die Organisation für Datenschutzrechte fordert die Regulierungsbehörde auf, zu untersuchen, wie OpenAI Daten für seine GenAI-Anwendung verarbeitet und welche Maßnahmen ergriffen wurden, um die Genauigkeit der Antworten auf personenbezogene Daten sicherzustellen, die in den LLMs des KI-Riesen verarbeitet werden.

Darüber hinaus fordert noyb die Datenschutzbehörde auf, OpenAI zu zwingen, der Aufforderung der Datenschutzorganisation nachzukommen, den Zugriff und die Verarbeitung der verwendeten Daten in Übereinstimmung mit der DSGVO zu bringen. Schließlich fordert sie, dass die österreichische Datenschutzbehörde eine Geldstrafe gegen OpenAI verhängt, um die Einhaltung der DSGVO in Zukunft sicherzustellen.

OpenAI hat noch nicht auf die Beschwerde der Datenschutzorganisation reagiert.

Lesen Sie auch: ChatGPT bietet nach dem Upgrade kürzere Antworten