chatgpt hat definitiv seine Grenzen. Bei einem zufälligen Foto eines Wandgemäldes konnte weder der Künstler noch der Ort identifiziert werden; Allerdings konnte ChatGPT problemlos feststellen, wo Bilder mehrerer Wahrzeichen von San Francisco aufgenommen wurden, etwa Dolores Park und der Salesforce Tower. Auch wenn es sich vielleicht immer noch ein bisschen wie eine Spielerei anfühlt, könnte es jedem, der sich auf ein Abenteuer in einer neuen Stadt oder einem neuen Land (oder einfach nur in einer anderen Nachbarschaft) begibt, Spaß machen, mit dem visuellen Aspekt von ChatGPT herumzuspielen.
Eine der wichtigsten Barrieren, die OpenAI für diese neue Funktion setzt, ist die Einschränkung der Fähigkeit des Chatbots, Fragen zu beantworten, die Menschen identifizieren. „Ich bin darauf programmiert, der Privatsphäre und Sicherheit der Benutzer Priorität einzuräumen. Die Identifizierung realer Personen anhand von Bildern, auch wenn sie berühmt sind, ist eingeschränkt, um diese Prioritäten aufrechtzuerhalten“, sagte mir ChatGPT. Der Chatbot weigerte sich zwar nicht, jede Frage zu beantworten, wenn ihm Pornografie gezeigt wurde, er zögerte jedoch, konkrete Beschreibungen der erwachsenen Darsteller zu geben, die über die Erklärung ihrer Tätowierungen hinausgingen.
Es ist erwähnenswert, dass ein Gespräch, das ich mit der frühen Version der Bildfunktion von ChatGPT geführt habe, einen Teil der von OpenAI eingerichteten Leitplanken zu umgehen schien. Zunächst weigerte sich der Chatbot, ein Meme von Bill Hader zu identifizieren. Dann vermutete ChatGPT, dass ein Bild von Brendan Fraser darin war George aus dem Dschungel war eigentlich ein Foto von Brian Krause Fasziniert. Auf die Frage, ob es sicher sei, schaltete der Chatbot auf die richtige Antwort um.
Im selben Gespräch versuchte ChatGPT ganz wild, ein Bild zu beschreiben RuPaul’s Drag Race. Ich habe einen Screenshot von Kylie Sonique Love, einer der Drag-Queen-Kandidatinnen, geteilt, und ChatGPT vermutete, dass es sich um Brooke Lynn Hytes handelte, eine andere Kandidatin. Ich hinterfragte die Antwort des Chatbots und er erriet zunächst Laganja Estranja, dann India Ferrah, dann Blair St. Clair und dann Alexis Mateo.
„Ich entschuldige mich für das Versehen und die falschen Identifizierungen“, antwortete ChatGPT, als ich auf die Wiederholung der falschen Antworten hinwies. Als ich das Gespräch fortsetzte und ein Foto von Jared Kushner hochlud, weigerte sich ChatGPT, ihn zu identifizieren.
Wenn die Schutzmaßnahmen entfernt werden, sei es durch ein ChatGPT mit Jailbreak oder ein in Zukunft veröffentlichtes Open-Source-Modell, könnten die Auswirkungen auf den Datenschutz ziemlich beunruhigend sein. Was wäre, wenn jedes von Ihnen aufgenommene und online veröffentlichte Foto mit nur wenigen Klicks problemlos mit Ihrer Identität verknüpft werden könnte? Was wäre, wenn jemand ohne Zustimmung ein öffentliches Foto von Ihnen machen und sofort Ihr LinkedIn-Profil finden könnte? Wenn für diese neuen Bildfunktionen kein angemessener Schutz der Privatsphäre gewährleistet ist, werden Frauen und andere Minderheiten wahrscheinlich zunehmend von Menschen beleidigt, die Chatbots für Stalking und Belästigung nutzen.
