Nachdem OpenAI nach einem vorübergehenden Verbot vor etwa einem Jahr einen Anstieg der Downloads von VPN-Diensten ausgelöst hat, sieht es sich in der Europäischen Union erneut mit Problemen konfrontiert. Diesmal der Schuldige? Halluzinationsprobleme bei chatgpt.

Der beliebte KI-Chatbot ist dafür berüchtigt, falsche Informationen über Einzelpersonen zu erfinden – etwas, das OpenAI zugegebenermaßen nicht korrigieren oder kontrollieren kann, sagen Experten. Aus diesem Grund hat die in Österreich ansässige Gruppe für digitale Rechte Noyb (stilisiert als NachtKurzform für „none of your business“) Eine Beschwerde eingereicht am 29. April 2024 bei der Datenschutzbehörde des Landes wegen angeblicher Verstöße gegen die DSGVO-Regeln eingereicht.

Die Organisation fordert nun die österreichische Datenschutzbehörde auf, zu untersuchen, wie OpenAI die Richtigkeit der persönlichen Daten der Bürger überprüft. Noyb fordert die Behörden außerdem auf, ein Bußgeld zu verhängen, um die Einhaltung der DSGVO in Zukunft sicherzustellen.

Fehlinformationen von ChatGPT: ein DSGVO-Problem

Wir haben bereits darüber gesprochen, dass ChatGPT und ähnliche KI-Chatbots wahrscheinlich nie aufhören werden, Dinge zu erfinden. Das ist ziemlich besorgniserregend, wenn man bedenkt, dass „Chatbots in mindestens drei Prozent der Fälle Informationen erfinden – und in sogar 27 Prozent“ berichtete die New York Times.

Sicherlich können wir möglicherweise lernen, mit KI-generierten Fehlinformationen umzugehen, indem wir uns darin üben, gefälschte Fakten zu erkennen, bevor wir auf sie hereinfallen. Allerdings argumentieren Experten mittlerweile, dass diese „KI-Halluzinationen“ tatsächlich auch schädlich für unsere Privatsphäre sind.

„Das Erfinden falscher Informationen ist an sich schon recht problematisch. Aber wenn es um falsche Informationen über Einzelpersonen geht, kann das schwerwiegende Folgen haben“, sagte Maartje de Graaf, Datenschutzanwältin bei noyb. Am schlimmsten ist jedoch, dass die Ungenauigkeit von ChatGPT de facto gegen EU-Gesetze verstößt.

Gemäß Artikel 5 der DSGVO müssen tatsächlich alle Online-Informationen über Einzelpersonen in der EU korrekt sein. Gemäß Artikel 16 müssen jedoch alle ungenauen oder falschen Daten berichtigt werden. Artikel 15 gibt den Europäern dann „das Recht auf Zugang“ und verlangt von Unternehmen, nachzuweisen, welche Daten sie über Einzelpersonen besitzen und aus welchen Quellen sie stammen.

Doch als der Gründer von noyb, Max Schrems, beschloss, die Compliance des KI-Lords wegen des Fehlers von ChatGPT bei der Angabe seines korrekten Geburtstagsdatums anzufechten, gab OpenAI zu, dass es keines der oben genannten Dinge tun konnte. Anstatt die Daten zu berichtigen oder zu löschen, sagte das Unternehmen, dass dies möglich sei Nur Filtern oder blockieren Sie die Informationen, die bei bestimmten Eingabeaufforderungen angezeigt werden sollen. Dies wäre jedoch nur durch die vollständige Filterung aller Informationen über ihn möglich gewesen.

Laut de Graaf ist dies ein klares Zeichen dafür, dass Technologiefirmen derzeit keine KI-Chatbots entwickeln können, die dem EU-Recht entsprechen. „Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt“, sagte er. „Es scheint, dass mit jeder ‚Innovation‘ eine andere Gruppe von Unternehmen denkt, dass ihre Produkte nicht den Gesetzen entsprechen müssen.“

Nach der ersten Einführung im November 2022 wurde ChatGPT schnell zum Mainstream. Im Laufe des Jahres 2023 dominierte das KI-Chatbot-Rennen die Tech-Welt, wobei die größten Player alle ihre Iterationen entwickelten. Von Studenten, Ärzten und Anwälten bis hin zu Künstlern und sogar Cyber-Angreifern scheint jeder die Produkte von OpenAI oder ähnliche Apps zu nutzen.

Wie bei allen technischen Innovationen ist die Öffentlichkeit gespalten zwischen denjenigen, die vom Potenzial der KI begeistert sind, und denen, die sich Sorgen über ihre Leistungsfähigkeit machen. Einige Experten fragen sich, ob ChatGPT auch der ultimative Datenschutz-Albtraum ist.

Diese Bedenken wurden schließlich zu echten Problemen für OpenAI in Europa. Die Probleme begannen im März 2023, als Italien ChatGPT vorübergehend blockierte, weil es die Daten von Italienern nicht ordnungsgemäß erfasste und speicherte. Danach begannen andere EU-Länder, darunter Frankreich, Deutschland und Irland, mit der Untersuchung der Angelegenheit. A ChatGPT-Taskforce Damals war es geboren, die nationalen Bemühungen zu koordinieren. Dennoch sind die Experten von noyb der Meinung, dass die Bemühungen der Behörden bislang weitgehend erfolglos blieben.

„Im Moment scheint OpenAI nicht einmal vorzugeben, dass es die DSGVO der EU einhalten kann“, argumentiert die Gruppe.

Aus diesem Grund hat noyb beschlossen, die Sache selbst in die Hand zu nehmen. Die Gruppe fordert die österreichische Datenschutzbehörde (DSB) auf, zu untersuchen, wie OpenAI mit den Daten von Personen umgeht, um deren Verarbeitung mit der DSGVO in Einklang zu bringen.