OpenAI befindet sich in Europa im Aufruhr, da der österreichische Anwalt NOYB (None Of Your Business) dem KI-Unternehmen am 29. April vorgeworfen hatte, dass es aufgrund ungenauer, nicht korrigierbarer Antworten gegen Datenschutzbestimmungen verstößt.

chatgpt-provides-false-information-about-people-and-openai-cant-correct-it”>Beschwerde von NOYB kam auf den Fersen einer betroffenen Person, die ChatGPT nach ihrem Geburtsdatum fragte, aber falsche Antworten erhielt, anstatt vom Chatbot darüber informiert zu werden, dass ihm die erforderlichen Daten fehlten, was einen Verstoß gegen den Datenschutz in der EU darstellt. Der Name der Person wurde in der Beschwerde geschwärzt, NOYB gab jedoch bekannt, dass es sich bei der Person um eine Persönlichkeit des öffentlichen Lebens handelt und ihr Geburtsdatum online leicht verfügbar ist.

OpenAI-Datenschutzbeschwerde zeigt hohen Anstieg falscher Informationen

Die österreichische Datenschutzgruppe erklärte außerdem, dass der Chatbot von OpenAI die Anträge des Beschwerdeführers auf Berichtigung oder Löschung der falschen Antwort abgelehnt habe. ChatGPT teilte dem Betroffenen mit, dass eine Datenkorrektur in der App nicht möglich sei, ohne zu klären, wie die Daten verarbeitet wurden oder woher sie stammten, was eine weitere Verletzung der Datenschutzrechte des Beschwerdeführers darstelle, was angesichts der Daten alles andere als ideal erscheint EU-Datenschutzrecht.

🚨 noyb hat eine Beschwerde gegen den ChatGPT-Ersteller OpenAI eingereicht

OpenAI gibt offen zu, dass es nicht in der Lage ist, falsche Informationen über Personen auf ChatGPT zu korrigieren. Das Unternehmen kann nicht einmal sagen, woher die Daten stammen.

Lesen Sie hier alles darüber 👇https://t.co/gvn9CnGKOb

– noyb (@NOYBeu) 29. April 2024

Die europäische Datenschutz-Grundverordnung (DSGVO) schreibt vor, dass Informationen über Einzelpersonen korrekt sein müssen und Einzelpersonen uneingeschränkten Zugriff auf alle von einem Unternehmen gespeicherten personenbezogenen Daten haben sollten.

In der Beschwerde wird behauptet, dass OpenAI weder Kenntnis von den von ChatGPT gespeicherten Daten noch von deren Quelle hat und dass das Technologieunternehmen trotz der Kenntnis des Problems davon offenbar nicht betroffen ist.

OpenAI hat in seiner App stets einen Haftungsausschluss angegeben, der besagt, dass „die sachliche Genauigkeit in großen Sprachmodellen weiterhin ein Bereich aktiver Forschung ist“.

Als Reaktion auf die Datenschutzbeschwerde von OpenAI, Datenschutzanwalt NOYB Maartje de Graaf erklärte dass Chatbots wie ChatGPT nicht dem EU-Recht entsprechen.

„Das Erfinden falscher Informationen ist an sich schon ziemlich problematisch. Aber wenn es um falsche Informationen über Einzelpersonen geht, kann das schwerwiegende Folgen haben“, sagte de Graaf. „Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen. Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technik muss den gesetzlichen Vorgaben folgen, nicht umgekehrt.“

Der Beschwerde von NOYB zufolge hat OpenAI es versäumt, auf „Datenzugriffsanfragen“ zu reagieren, wie es die DSGVO vorschreibt, die Unternehmen verpflichtet, auf Anfrage von autorisierten Stellen Einzelheiten zu allen personenbezogenen Daten bereitzustellen, die gespeichert werden.

Untersuchungen zum OpenAI-Datenschutz intensivieren sich

Seit seiner Einführung im Jahr 2022 hat ChatGPT eine globale Debatte über die Anwendungen und Risiken von KI entfacht, da die Plattform auf über 180 Millionen Nutzer weltweit angewachsen ist.

Das schnelle Wachstum von ChatGPT und anderen Apps für maschinelles Lernen hat Bedenken hinsichtlich fehlender Vorschriften zur Verhinderung falscher Informationen, Datenschutz- und Urheberrechtsverletzungen oder der Erstellung von Deepfake-Audio- und Videoinhalten geweckt. Dies hat dazu geführt, dass die EU im März 2024 ein KI-Gesetz verabschiedet hat, um einen Regulierungsansatz für einige der drängenden Probleme rund um KI zu ermöglichen.

Die Datenschutzbeschwerde von NOYB gegen OpenAI ist Teil einer Reihe rechtlicher Herausforderungen, mit denen das Unternehmen konfrontiert ist.

Die New York Times verklagt Microsoft und den ChatGPT-Hersteller OpenAI wegen „massenhafter Urheberrechtsverletzung“. Sie sollten der NYT entgegentreten, weil sie ihre KI auf den Geist eines gehirngewaschenen, liberalen Dummkopfs reduziert hat. pic.twitter.com/jOwigJDYYm

– Suburban Black Man 🇺🇸 (@niceblackdude) 28. Dezember 2023

OpenAI wird bereits von der nationalen Datenschutzbehörde Italiens untersucht, die im März 2023 eine Untersuchung eingeleitet hat. Die Untersuchung grenzte an Bedenken im Zusammenhang mit Datenschutzverletzungen sowie der Offenlegung von Benutzergesprächen und Zahlungsdetails.

Chat-GPT in Italien blockiert – kommt der Rest der EU als nächstes?

Italien ist das erste westliche Land, das ChatGPT verbietet.

Anfang dieses Monats gab die italienische Datenschutzbehörde bekannt, dass sie OpenAI untersuchen und den Chatbot aufgrund von „Datenschutzbedenken“ sofort blockieren werde.

Der Italiener… pic.twitter.com/Rd7RQNvYn1

— Mario Nawfal (@MarioNawfal) 24. April 2023

Der Europäische Datenschutzausschuss (EDPB), bestehend aus den Datenschutzbehörden der EU-Mitgliedstaaten, eine Task Force gegründet im April 2023, um Probleme im Zusammenhang mit ChatGPT anzugehen, Durchsetzungsmaßnahmen zu koordinieren und die Einhaltung von Datenschutzbestimmungen sicherzustellen.

Darüber hinaus reichte Elon Musk eine Klage gegen OpenAI und seinen CEO Sam Alman ein und behauptete, dass die Partnerschaft des Unternehmens mit Microsoft von den Grundprinzipien der Förderung von Open-Source-KI zum Wohle der Menschheit abweiche. Während dieser Klage enthüllte Musk Pläne, Grok Open Source zu machen.