OpenAI steht vor einer neuen Datenschutzbeschwerde in der Europäischen Union (EU) zur Generierung von Fehlinformationen über Einzelpersonen. Laut einer Beschwerde der Datenschutz-Organisation noyb bei der österreichischen Datenschutzbehörde (entdeckt von TechCrunch) hat sie dem KI-Chatbot chatgpt vorgeworfen, dass er nicht in der Lage sei, Fehlinformationen, die er über Einzelpersonen generiert, zu korrigieren. In seinem Bericht schreibt noyb: „In der EU verlangt die DSGVO, dass Informationen über Einzelpersonen korrekt sind und dass sie vollen Zugriff auf die gespeicherten Informationen sowie Informationen über die Quelle haben.“ Überraschenderweise gibt OpenAI jedoch offen zu, dass es nicht in der Lage ist, falsche Informationen auf ChatGPT zu korrigieren.“ „Außerdem kann das Unternehmen nicht sagen, woher die Daten stammen und welche Daten ChatGPT über einzelne Personen speichert.“ Das Unternehmen ist sich dieses Problems durchaus bewusst, scheint sich aber nicht darum zu kümmern. Stattdessen argumentiert OpenAI lediglich, dass „die sachliche Genauigkeit in großen Sprachmodellen weiterhin ein Bereich aktiver Forschung ist“, fügt der Bericht hinzu. Das „Halluzinations“-Problem von ChatGPT Der Bericht zeigt, dass OpenAI über umfangreiche Trainingsdaten verfügt. Allerdings gibt es derzeit keine Möglichkeit zu garantieren, dass ChatGPT den Benutzern sachlich korrekte Informationen anzeigt. Im Gegenteil sei bekannt, dass generative KI-Tools regelmäßig „halluzinieren“, was bedeutet, dass sie einfach Antworten erfinden, heißt es in dem Bericht.

Expandieren

Dem Bericht zufolge hat sogar das von Microsoft unterstützte Unternehmen bestätigt, dass ChatGPT auf Benutzeranfragen reagiert, indem es „die nächstwahrscheinlichsten Wörter vorhersagt, die als Antwort auf jede Eingabeaufforderung erscheinen könnten“. Der Bericht beklagt, dass Benutzer zu verschiedenen Zwecken auf ChatGPT zugreifen, darunter auch zu Forschungszwecken, und dass der Chatbot, der ungenaue Informationen über Einzelpersonen anbietet, „inakzeptabel“ sei. Das EU-Recht schreibt seit 1995 die Richtigkeit personenbezogener Daten vor und wurde in Artikel 5 der 2018 in Kraft getretenen Datenschutz-Grundverordnung (DSGVO) eingefügt. Gemäß Artikel 16 des DSGVO-Gesetzes haben Einzelpersonen auch ein Recht auf Berichtigung, wenn Ihre Daten sind ungenau und Sie können das Unternehmen auffordern, falsche Informationen über sie zu löschen. Darüber hinaus müssen Unternehmen im Abschnitt „Zugriffsrecht“ in Artikel 15 nachweisen können, über welche Daten sie über Einzelpersonen verfügen und aus welchen Quellen sie stammen.

Siehe auch  Microsoft, Activision, Netflix, Epic setzen den Verkauf in Russland aus