OpenAI, das Unternehmen, das das beliebte Sprachmodell chatgpt entwickelt hat, steht vor Herausforderungen in Bezug auf die Einhaltung gesetzlicher Vorschriften und die Datengenauigkeit. Dieses Problem hat NOYB – das Europäische Zentrum für digitale Rechte, eine gemeinnützige Organisation mit Sitz in Wien, Österreich – dazu veranlasst, eine Beschwerde gegen OpenAI bei der österreichischen Datenschutzbehörde (DPA) einzureichen.

Tatsächlich hat die Datenerfassung durch OpenAI bei Regulierungsbehörden und Datenschutzbefürwortern Anlass zur Sorge gegeben. Dieser Schritt von NOYB könnte möglicherweise eine größere Diskussion über die ethische Nutzung von Daten in der Technologie auslösen.

Die Datenprobleme von OpenAI legen ethische Herausforderungen der KI offen

Das Herzstück der Beschwerde liegt in den jüngsten Eingeständnissen von OpenAI bezüglich der Einschränkungen von ChatGPT bei der Datenverarbeitung. Laut OpenAI ist das KI-Modell nicht in der Lage, die Richtigkeit der von ihm generierten Informationen über Einzelpersonen zu überprüfen. Darüber hinaus kann es auch nicht die Herkunft seiner Dateneingaben offenlegen.

Inmitten des zunehmenden KI-Hypes, der durch die Einführung von ChatGPT im November 2022 ausgelöst wurde, hat die breite Akzeptanz des Tools kritische Schwachstellen aufgedeckt. ChatGPT funktioniert, indem es wahrscheinliche Reaktionen auf Benutzeraufforderungen vorhersagt, ohne einen inhärenten Mechanismus zur Gewährleistung der sachlichen Genauigkeit.

Dies hat dazu geführt, dass die KI Daten „halluziniert“ und Antworten fabriziert, die irreführend oder völlig falsch sein können. Während solche Ungenauigkeiten in manchen Zusammenhängen unbedeutend sein können, bergen sie erhebliche Risiken, wenn es um personenbezogene Daten geht.

Lesen Sie mehr: So erstellen Sie Ihren persönlichen KI-Chatbot mithilfe der ChatGPT-API

Die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union schreibt die Richtigkeit personenbezogener Daten vor und gewährt Einzelpersonen das Recht, auf falsche Informationen über sich selbst zuzugreifen und diese zu berichtigen. Die aktuellen Fähigkeiten von OpenAI genügen diesen gesetzlichen Anforderungen nicht, was eine Debatte über die ethischen Auswirkungen von KI beim Umgang mit sensiblen Daten entfacht.

Maartje de Graaf, Datenschutzanwältin bei noyb, betont den Ernst der Lage.

„Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen. Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. „Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt“, de Graaf erklärt.

Die Probleme erstrecken sich über technische Hürden hinaus bis hin zu umfassenderen regulatorischen Herausforderungen. Seit ihrer Einführung stehen generative KI-Tools, darunter ChatGPT, unter intensiver Beobachtung europäischer Datenschutzbehörden.

So verhängte die italienische Datenschutzbehörde Anfang 2023 unter Berufung auf Ungenauigkeiten Beschränkungen für die Datenverarbeitung durch ChatGPT.

Darauf folgte eine koordinierte Anstrengung des Europäischen Datenschutzausschusses, um die mit solchen KI-Plattformen verbundenen Risiken zu bewerten und zu mindern.

Besonders hervorzuheben ist der Zeitpunkt dieser rechtlichen Anfechtungen. Gleichzeitig befand sich OpenAI in Gesprächen über die Bildung einer strategischen Allianz mit Worldcoin, einem Projekt, das von Sam Altman mitbegründet wurde, der auch OpenAI leitet.

Weiterlesen: Die 11 besten ChatGPT-Chrome-Erweiterungen zum Ausprobieren im Jahr 2024

Allerdings könnte die mögliche Zusammenarbeit von OpenAI mit Worldcoin zusätzliche rechtliche und ethische Dilemmata mit sich bringen. Der Ansatz von Worldcoin zur Nutzung biometrischer Daten überschneidet sich mit den Herausforderungen von OpenAI bei der Gewährleistung von Datenschutz und -genauigkeit.

Darüber hinaus wurde Worldcoin hinsichtlich seiner Datenerfassung von Justizbehörden auf der ganzen Welt, darunter Kenia, Spanien und Argentinien, einer genauen Prüfung unterzogen. Daher könnte diese Synergie entweder den Weg für innovative Technologieanwendungen ebnen oder einen Präzedenzfall für verstärkte regulatorische Eingriffe schaffen.