WIEN, 29. April – Eine in Wien ansässige Datenschutzkampagnengruppe sagte heute, sie werde eine Beschwerde gegen chatgpt in Österreich einreichen und behaupten, das „halluzinierende“ Flaggschiff-KI-Tool erfinde falsche Antworten, die der Erfinder OpenAI nicht korrigieren könne.

NOYB („None of Your Business“) sagte, es gebe keine Möglichkeit zu garantieren, dass das Programm korrekte Informationen lieferte. „ChatGPT halluziniert weiter – und nicht einmal OpenAI kann es stoppen“, sagte die Gruppe in einer Erklärung.

Werbung

Werbung

Das Unternehmen habe offen zugegeben, dass es die von seinem generativen KI-Tool erzeugten ungenauen Informationen nicht korrigieren könne und habe es versäumt, zu erklären, woher die Daten stammen und was ChatGPT über Einzelpersonen speichert, so die Gruppe.

Solche Fehler seien bei Informationen über Einzelpersonen nicht akzeptabel, da das EU-Recht vorsehe, dass personenbezogene Daten korrekt sein müssen, argumentierte NOYB.

„Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden“, sagte Maartje de Graaf, Datenschutzanwältin bei NOYB.

„Die Technik muss den gesetzlichen Vorgaben folgen, nicht umgekehrt.“

ChatGPT habe „wiederholt falsche Angaben“ zum Geburtsdatum des NOYB-Gründers Max Schrems gemacht, „anstatt den Nutzern mitzuteilen, dass es nicht über die erforderlichen Daten verfüge“, so die Gruppe.

OpenAI lehnte Schrems‘ Antrag auf Berichtigung oder Löschung der Daten ab, obwohl diese falsch waren, mit der Begründung, dies sei unmöglich, fügte NOYB hinzu.

Außerdem sei auf seine Bitte um Zugriff auf seine personenbezogenen Daten „nicht angemessen reagiert“ worden, was erneut einen Verstoß gegen EU-Recht darstelle, sagte NOYB, und das Unternehmen „scheint nicht einmal so zu tun, als könne es dem nachkommen“.

Die Kampagnengruppe, die sich seit ihrer Gründung im Jahr 2018 zu einem scharfen Kritiker von Technologiegiganten entwickelt hat, sagte, sie fordere die österreichische Datenschutzbehörde auf, OpenAI zu untersuchen und mit einer Geldstrafe zu belegen, um es mit EU-Recht in Einklang zu bringen.

Als ChatGPT im November 2022 auf den Markt kam, löste es bei Tech-Anwendern einen Aufruhr aus, weil es in der Lage war, Dissertationen, Gedichte oder Übersetzungen in nur wenigen Sekunden abzuspulen.

Doch Kritik an der Technologie hat inzwischen in einigen Ländern zu rechtlichen Schritten geführt.

Italien blockierte das Programm im März 2023 vorübergehend, während Frankreichs Regulierungsbehörde nach einer Reihe von Beschwerden eine Untersuchung einleitete.

Außerdem wurde eine europäische Arbeitsgruppe eingerichtet, um die Koordinierung zu verbessern, obwohl NOYB den Bemühungen der Behörden zur Regulierung von KI weiterhin skeptisch gegenübersteht. — AFP