Eine der Haupteinschränkungen, die OpenAI dieser neuen Funktion auferlegt, betrifft die Fähigkeit des Chatbots, menschenidentifizierende Fragen zu beantworten: “Ich bin darauf programmiert, den Datenschutz und die Sicherheit der Benutzer zu priorisieren. Die Identifizierung realer Personen anhand von Bildern, auch wenn sie berühmt sind, beschränkt sich auf die Achtung dieser Prioritätenà“, sagte mir der Chabtot. Vor pornografische BilderIn einigen Fällen antwortete der Chatbot auf meine Fragen, zögerte jedoch, konkrete Beschreibungen der porträtierten Schauspieler bereitzustellen, und beschränkte sich auf die Illustration ihrer Tätowierungen.

Es ist erwähnenswert, dass ich während eines Gesprächs den Eindruck hatte, dass es sich um die vorläufige Version des neuen chatgpt handelt einige der von OpenAI auferlegten Einschränkungen umgangen. Zunächst weigerte sich der Chatbot, ein Meme mit Bill Hader zu identifizieren. Aber dann stellte ChatGPT die Hypothese auf, dass ein Bild von Brendan Fraser in George, König des Dschungels…? zeigen Brian Krause von Hexen. Als ich fragte, ob er sich seiner Antwort sicher sei, korrigierte sich der Chatbot. Im selben Gespräch war ChatGPT verwirrt, als er versuchte, ein Bild von zu beschreiben RuPaul’s Drag Race. Als ich einen Screenshot von Kylie Sonique Love, einer der in der Show konkurrierenden Drag Queens, teilte, identifizierte das System sie als Brooke Lynn Hytes, eine weitere Kandidatin. Ich habe die Antwort des Chatbots angefochten, der mich daraufhin auf eine Reihe anderer Teilnehmer der Show verwies. “Ich entschuldige mich für etwaige Versäumnisse und Fehlidentifikationen„, schrieb mir der Chatbot, als ich auf die ständigen falschen Antworten hinwies. Als ich ein Foto von Donald Trumps Schwiegersohn und ehemaligen US-Regierungsberater Jared Kushner hochlud, weigerte sich ChatGPT, ihn zu identifizieren.

Wenn der Schutz des Systems in Zukunft entfernt wird – durch irgendeine Form von Manipulation oder dank eines in Zukunft eingeführten Open-Source-Modells – Die Auswirkungen auf die Privatsphäre könnten ziemlich beunruhigend sein. Was würde passieren, wenn jedes online veröffentlichte Foto von Ihnen mit nur wenigen Klicks problemlos mit Ihrer Identität verknüpft werden könnte? Was wäre, wenn jemand ohne Zustimmung ein Foto von Ihnen in der Öffentlichkeit machen und sofort Ihr LinkedIn-Profil finden könnte? Ohne angemessenen Datenschutz für diese neuen Funktionen werden insbesondere Frauen und Minderheiten wahrscheinlich Opfer von Missbrauch durch Personen, die Chatbots zum Zwecke des Stalkings und der Belästigung nutzen.

Dieser Artikel erschien ursprünglich su Wired US.