Das Large Language Model (LLM) chatgpt von OpenAI wurde von einer DSGVO-Beschwerde der österreichischen Datenschutzbehörde (DPA) und einer Gruppe von Datenschutzaktivisten betroffen NOYB.
In der Beschwerde heißt es, dass ChatGPT gegen die DSGVO verstößt, indem es falsche Informationen über Persönlichkeiten des öffentlichen Lebens bereitstellt und diesen Personen den Zugriff auf die über sie gesammelten Daten oder deren Löschung verweigert.
LLMs sind in der Lage, Text aus Eingabeaufforderungen zu generieren, indem sie große Mengen an Trainingsdaten aufnehmen, um eine menschenähnliche Sprache zu reproduzieren. Anhand dieser Trainingsdaten können sie das nächste Wort in einem Satz vorhersehen.
Allerdings können LLMs halluzinieren, indem sie sachlich falsche Antworten erzeugen.
NOYB gab an, OpenAI wegen unrichtiger Antworten in Bezug auf personenbezogene Daten kontaktiert zu haben, gab jedoch an, dass das Startup geantwortet habe, es sei nicht in der Lage, die falschen Antworten von ChatGPT zu korrigieren.
Die Beschwerde von NOYB und DPA dreht sich um den Fall einer namentlich nicht genannten Persönlichkeit des öffentlichen Lebens, die angab, dass ChatGPT ungenaue Angaben zu seinem Geburtsdatum gemacht habe. In der Beschwerde hieß es, dass online keine Informationen zu seinem Geburtsdatum verfügbar seien.
Greifen Sie auf die umfassendsten Unternehmensprofile auf dem Markt zu, unterstützt von GlobalData. Sparen Sie stundenlange Recherche. Verschaffen Sie sich einen Wettbewerbsvorteil.
Firmenprofil – kostenloses Muster
Danke schön!
Ihre Download-E-Mail wird in Kürze eintreffen
Wir sind von der einzigartigen Qualität unserer Unternehmensprofile überzeugt. Da wir jedoch möchten, dass Sie die für Ihr Unternehmen günstigste Entscheidung treffen, bieten wir Ihnen ein kostenloses Muster an, das Sie herunterladen können, indem Sie das untenstehende Formular ausfüllen
Von GlobalData
Nach der ungenauen Antwort von ChatGPT sandte die Person des öffentlichen Lebens eine Zugriffs- und Löschanfrage an OpenAI.
In der Beschwerde heißt es, dass sich die Antwort von OpenAI auf diese Anfrage nur auf die Benutzerdaten beziehe, die über die Person des öffentlichen Lebens in seinem ChatGPT-Konto gespeichert seien, nicht jedoch auf die Daten, die von ChatGPT aufgenommen wurden.
OpenAI gab an, dass ChatGPT die Möglichkeit habe, die Anzeige aller persönlichen Daten der Person zu blockieren, aber nicht nur das eingegebene Geburtsdatum entfernen könne.
Der Datenschutzanwalt bei NOYB Maartje de Graaf erklärte, dass KI-Halluzinationen über personenbezogene Daten schwerwiegende Folgen haben könnten.
„Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen. Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt“, sagte de Graaf.
De Graaf erklärte, dass die Einhaltung der DSGVO für alle Unternehmen gelten müsse.
„Es ist eindeutig möglich, Aufzeichnungen über die verwendeten Trainingsdaten zu führen und zumindest eine Vorstellung von den Informationsquellen zu haben. Es scheint, dass mit jeder „Innovation“ eine andere Gruppe von Unternehmen denkt, dass ihre Produkte nicht den Gesetzen entsprechen müssen“, sagte sie.
