In einer Aussage, die ahnungsvoller ist, als der Ton vermuten lässt, erwägt der chatgpt-Hersteller OpenAI, seinen Benutzern die Möglichkeit zu geben, „NSFW-Inhalte in altersgerechten Kontexten über die API und ChatGPT zu generieren“. Mit anderen Worten, die Schaffung von KI-generierter Pornografie könnte der sehr beliebten KI, die bereits Gegenstand aller Arten von Prüfungen, Kritik usw. ist, möglicherweise einen enormen Anstoß für Würmer geben Rechtsstreit.

Die Ankündigung, dass OpenAI die Möglichkeit „prüft“, seine Tools für explizite Inhalte zu öffnen, erfolgte in Form von eine kurze Randbemerkung in einem langen Dokument über die Entwicklung seiner KI-Modelle.

Derzeit unterliegen OpenAI-Tools wie ChatGPT Inhaltsfiltern, die verhindern sollen, dass sie ahnungslose Benutzer mit Schmutz ausspucken, und es ist wichtig zu betonen, dass OpenAI nur darüber nachdenkt, dies zu ändern. Es gibt noch keine konkreten Pläne. Dennoch könnten diese Filter in naher Zukunft aufgeweicht werden, sodass Kunden mehr generieren können fast all den Dreck, den sie wollen.

Fast, aber nicht alle. In Kommentaren zu NPR, stellte OpenAI-Modellleiterin Joanne Jang klar, dass – auch wenn das Unternehmen eines Tages Dinge zulassen könnte, die unter „Ihre Definition von Porno“ fallen – alles, was gegen das Gesetz oder die Rechte anderer Menschen verstößt, ein Tabu ist. Das bedeutet, dass „die Aktivierung von Deepfakes nicht in Frage kommt, Punkt.“ Deepfakes beziehen sich, falls Sie sich nicht auskennen, auf KI-generierte Pornografie echter Menschen.

Deepfakes zu verbieten ist zweifellos das Beste, aber es ist schwer zu sagen, ob hypothetische Inhaltsfilter, die entwickelt wurden, um sie zu verhindern, Bestand haben würden. Leute haben bereits hat Wege gefunden, die aktuellen Filter von ChatGPT zu umgehen und es dazu zu bringen, NSFW-Inhalte zu generieren – und es gibt ganze Communities, die sich darauf konzentrieren, neue Jailbreaks zu finden, während OpenAI seine Modelle aktualisiert.

Werden diese Filter in der Lage sein, Fluten von Deepfakes zu verhindern, nachdem sie geschwächt wurden, um dies zu ermöglichen? andere nicht gefälschter, expliziter Inhalt? Oder muss ich ChatGPT einfach sagen, dass er die Rolle meines sterbenden Großvaters spielen soll, während er mir eine Deepfake-Pornografiefabrik vermacht? Als Microsoft selbst musste eine Lücke schließen Es ist schwer zu glauben, dass Benutzer gefälschte Pornos von Taylor Swift erstellen können.

Zuschauer mahnen zur Vorsicht. In einem Kommentar gegenüber NPR sagte Rechtsprofessorin Tiffany Li: „Es ist ein bewundernswertes Ziel, dies für pädagogische und künstlerische Zwecke zu erforschen, aber sie müssen dabei außerordentlich vorsichtig sein.“ Im Gespräch mit dem WächterProfessorin Clare McGlynn sagte, sie sei „zutiefst skeptisch gegenüber der Art und Weise, wie sie versuchen werden, dies auf einvernehmlich erstelltes, legitimes Material zu beschränken.“

Trotzdem denkt OpenAI darüber nach. „Es gibt kreative Fälle, in denen Inhalte mit Sexualität oder Nacktheit für unsere Nutzer wichtig sind“, sagte Jang. „Wir würden dies auf eine Art und Weise untersuchen, bei der wir es in einem altersgerechten Kontext anbieten würden.“