OpenAI ist gestartet chatgpt-4o“>ChatGPT-4o und es verfügt über beeindruckende Fähigkeiten. ChatGPT-4o ist viel menschlicher als frühere Iterationen, kann Gleichungen lösen, Gute-Nacht-Geschichten erzählen und Emotionen anhand visueller Ausdrücke erkennen.

Aber als Datenschutzjournalist finde ich ChatGPT-4o besorgniserregend. Für den Betrieb von KI sind große Datenmengen erforderlich, und allein die Verwendung von Chatbots erfordert die Eingabe zahlreicher Informationen über sich selbst. Das bedeutet, dass Sie sich darauf verlassen, dass der ChatGPT-Besitzer OpenAI Ihre Daten sicher verwahrt und Ihre persönlichen Daten schützt.

Dennoch hat ChatGPT in Europa bereits für Aufsehen gesorgt, da seine Richtlinien zuvor im Widerspruch zur EU-Datenschutzgrundverordnung (DSGVO) standen. So sehr, dass sogar italienische Regulierungsbehörden verboten den Dienst letztes Jahr vorübergehend eingestellt.

Diese Woche wurde eine weitere zukünftige Funktion von ChatGPT-4o vorgeführt, bei der die neue macOS-App auf den Bildschirm einer Person zugreifen kann. Wie Sie sich vorstellen können, löste dies in der Datenschutz-Community noch mehr Alarmglocken aus, insbesondere angesichts der potenziellen – wenn auch unbestätigten – Partnerschaft von apple mit Chat-GPT zur Bereitstellung von Funktionen in iOS 18 später in diesem Jahr.

Ich habe mit Experten über die Risiken gesprochen, die von Diensten wie ChatGPT und seiner neuesten Version GPT-4o ausgehen. Ich habe auch einige Tipps beigefügt, die Sie beim Einsatz dieser Technologie zum Schutz Ihrer Privatsphäre berücksichtigen sollten.

Was sind die Datenschutzrisiken von ChatGPT-4o?

Die Auswirkungen von ChatGPT auf den Datenschutz sind zweigleisig, sagt Oliver Willis, Partner bei BDB Pitmans. „Wie erfasst und verwendet ChatGPT aus der Sicht eines Benutzers Daten über Sie, wenn Sie es verwenden? Wurde ChatGPT aus der Sicht aller anderen hinsichtlich der Informationen über Sie geschult und was wird es den Benutzern über Sie sagen?“

In seinem Datenschutzrichtlinie, OpenAI erkennt an, dass die zum Training von ChatGPT verwendeten Informationen personenbezogene Daten umfassen, sagt Willis. „Sie betonen, dass die Schulungsinformationen nicht dazu verwendet werden, Profile von Personen zu erstellen oder mehr über sie zu erfahren, aber einige Leute werden die Verwendung dieser Daten als von Natur aus aufdringlich empfinden.“

OpenAI erkennt auch an, dass die Verwendung personenbezogener Daten zum Trainieren von ChatGPT dazu führt, dass Antworten manchmal Informationen über Einzelpersonen enthalten. „OpenAI bietet einen Mechanismus zur Einschränkung der Verwendung ihrer Daten zum Trainieren von ChatGPT, aber es ist weniger klar, was OpenAI für jemanden tun wird, der Einwände gegen die Offenlegung seiner persönlichen Daten in einer Chat-Antwort hat“, sagt Willis.

ChatGPT sammelt alle von einem Benutzer eingegebenen Daten und speichert diese Informationen auf unbestimmte Zeit, um seine Modelle zu trainieren, es sei denn, Sie entscheiden sich dagegen – was nicht einfach ist, sagt Matthew Holman, Partner bei Cripps LLP.

„In der Praxis ist es für Einzelpersonen wirklich schwierig, DSGVO-Rechte gegenüber großen Sprachmodellen (LLMs) wie ChatGPT geltend zu machen“, sagt Holman. Er sagt beispielsweise, dass es „ungenaue Informationen erzeugen oder Halluzinationen hervorrufen kann; Es ist in der Lage, Informationen ohne Erklärung zu ändern, und es kann fast unmöglich sein, dass Ihre Daten gelöscht werden, sobald sie dem LLM zugeschrieben werden.“

Die ChatGPT-iOS-App, die auf Ihren Bildschirm zugreifen kann

Die Besorgnis wächst nach einer Demo von a neue macOS-App– kommt auch für iOS – das alles sehen kann, was auf Ihrem Bildschirm passiert. „Beim Start unterstützt die ChatGPT-Mac-App das manuelle Aufnehmen eines Screenshots oder das Hochladen einer Datei, um dann ChatGPT danach abzufragen“, schreibt die auf Apple fokussierte Website 9to5Mac. „Aber in Zukunft können Sie auf eine Schaltfläche klicken, mit der die App auf alles und jeden auf Ihrem Display zugreifen kann.“

Dies ist keine neue Funktion – wie 9to5Mac betont, stellt Apple APIs bereit, mit denen Entwickler auf den Bildschirminhalt eines Geräts zugreifen können, wenn Sie dem zustimmen, es handelt sich also nicht um eine schändliche Funktion.

Und die ChatGPT-Desktop-App erkennt Ihren Bildschirm standardmäßig nicht, sagte mir ein OpenAI-Sprecher. Wenn der Benutzer ChatGPT mit Vision auffordert, nutzt das Unternehmen die Berechtigung zur Bildschirmaufzeichnung tatsächlich nur, um Screenshots zu machen, wenn der Benutzer diese Aktion ausdrücklich ausführt, sagten sie.

In der Demo während des Spring Update-Livestreams kopierte das Team den Code, fügte ihn in ChatGPT ein und nutzte dann den Vision-Modus, um die Handlung auf dem Bildschirm anzuzeigen. Laut dem OpenAI-Sprecher berücksichtigt das Unternehmen bei seiner Sicherheitsarbeit, die auf seiner früheren Arbeit für GPT-4 mit Vision aufbaut, auch Auswirkungen auf den Datenschutz.

Experten sind jedoch besorgt über die Menge an Daten, die Menschen letztendlich an ChatGPT weitergeben könnten. „Seine Fähigkeit, Antworten basierend auf Audioeingaben und Bildschirminhalten bereitzustellen, stellt eine große Veränderung gegenüber dem aktuellen Prozess dar, bei dem Screenshots manuell zur Verarbeitung in ChatGPT eingegeben werden“, sagt Udo Schneider, Governance, Risk and Compliance Lead, Europe bei Trend Micro.

Jedes Produkt oder jede Dienstleistung, die Zugriff auf Ihren Bildschirm und Ihre Inhalte hat, hat „erhebliche Auswirkungen auf die Privatsphäre“, sagt Simon Bain, KI-Experte und CEO von OmniIndex. Das gelte vor allem bei der Arbeit, sagt er. „Es besteht die Möglichkeit, dass regulierte Inhalte auf dem Bildschirm angezeigt werden – von personenbezogenen Daten (PII) bis hin zu Zahlungskarteninformationen und anderen Finanzdaten.“

Welche Auswirkungen hat eine Partnerschaft zwischen Apple und OpenAI auf den Datenschutz?

Apples iOS 18 verfügt über KI-Funktionen, die teilweise sowohl auf dem Gerät als auch auf Apples eigenen Servern verarbeitet werden, was zu einem datenschutzbewussten Angebot führt. Die mögliche Partnerschaft mit OpenAI wirft jedoch die Frage auf, wer für die Verwaltung der iphone-Benutzerinformationen verantwortlich wäre.

ForbesNeue KI-Sicherheitsmaßnahme für iOS 18 verändert das Spiel für alle iPhone-BenutzerVon Kate O'Flaherty

Das wahrscheinlichste Ergebnis ist, dass sie gemeinsame Verantwortliche für die Daten sein werden, was bedeutet, dass sie gemeinsam für deren Verwaltung verantwortlich sind, sagt Holman. „Dies wird eine umfangreiche rechtliche, technische und Compliance-Überwachung hinter den Kulissen erfordern, um sicherzustellen, dass beide Unternehmen die Gesetze einhalten.“

Die Apple-Partnerschaft bringt einige Datenschutzbedenken mit sich, da beide Unternehmen ihren Sitz in den USA haben, sagt Jeff Watkins, Chief Product and Technology Officer bei xDesign. „In den USA gibt es mehr sektorspezifische Datengesetze als auf Bundesebene. Dies ist im Allgemeinen weniger streng als die DSGVO und könnte einige Herausforderungen bei der Verwendung der multimodalen Elemente von GPT-4o mit sich bringen – insbesondere wenn man bedenkt, dass es sowohl die Kamera Ihres Geräts als auch die Anzeige Ihres Bildschirms nutzen kann.“

Wenn es eine Partnerschaft mit OpenAI eingeht, muss Apple vor allem Transparenz darüber schaffen, was mit den Daten geschieht, sagt Watkins. Dies sollte mit einem „umsichtigen Einsatz von App-Berechtigungen und verbesserten Datenschutz-Tools, die in iOS integriert sind“ einhergehen.

Ich habe Apple um einen Kommentar gebeten und werde diesen Artikel aktualisieren, wenn der iPhone-Hersteller antwortet.

Was zu tun

Es besteht kein Zweifel, dass ChatGPT-4o einige sehr coole Funktionen bietet, aber es ist wichtig, sich darüber im Klaren zu sein, wie Sie es verwenden und Ihre Daten teilen.

Wenn Leute ChatGPT verwenden, müssen sie bedenken, dass OpenAI alles nutzen kann, was die Leute ihm sagen, um das Modell zu verbessern, sagt Willis. „Dazu gehört auch, einigen OpenAI-Mitarbeitern und Dienstanbietern die Möglichkeit zu geben, Chats anzusehen.“

Vor diesem Hintergrund sollten alle Benutzer darüber nachdenken, die Verwendung von Daten zum Trainieren von ChatGPT-Modellen abzulehnen, sagt Holman. „Dies wird ein gewisser Trost dafür sein, dass Daten nicht auf unerwartete Weise verwendet werden.“

Tom Paton, Gründer von greensmartphones.com, empfiehlt, zu lernen, wie man Informationen löscht, die man lieber nicht weitergeben möchte. Er weist darauf hin, dass das Löschen eines Chats löscht keine Informationen aus dem Speicher von ChatGPT. „Stattdessen müssen Sie in die Einstellungen gehen und den Speicher von dort aus verwalten.“

Wenn Ihnen Ihre Privatsphäre am Herzen liegt, sind KI-basierte Tools wie ChatGPT eine beängstigende Aussicht. Aber KI wird in viele Dienste integriert – wie zum Beispiel iOS 18 –, sodass wir oft keine Wahl haben, ob wir sie nutzen. Vor diesem Hintergrund liegt es an Ihnen, die von den Diensten erfassten Daten einzuschränken, App-Berechtigungen einzuschränken und sicherzustellen, dass Sie die Datenschutzrichtlinien lesen.