• OpenAI erwägt, seine KI-Modelle Pornos generieren zu lassen.
• OpenAI-Produkte wie chatgpt und DALL-E verbieten Benutzern die Erstellung expliziter Inhalte.
• KI-Pornos florieren andernorts, was zu ethischen Bedenken hinsichtlich Deepfakes führt.

OpenAI erforscht, seinen KI-Modellen die Generierung expliziter Inhalte zu ermöglichen.

Zuerst in einem Zug berichtet von WiredOpenAIs kürzlich veröffentlichte Modellspezifikation Das Dokument öffnet die Tür für eine Richtlinienänderung zu Inhalten für Erwachsene.

„Wir untersuchen, ob wir über die API und ChatGPT verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren“, sagte das Unternehmen in der Model Spec. „Wir freuen uns darauf, die Erwartungen der Nutzer und der Gesellschaft an das Modellverhalten in diesem Bereich besser zu verstehen.“

OpenAI reagierte nicht sofort auf eine Bitte um einen Kommentar von Business Insider, die außerhalb der normalen Geschäftszeiten gestellt wurde.

OpenAI-Modelle, die Produkte wie ChatGPT und DALL-E unterstützen Benutzern verbieten davon abgehalten, explizite Inhalte zu erstellen, aber das hat KI-Pornos nicht davon abgehalten, anderswo zu florieren

Instabile Diffusion, der NSFW-KI-Bildgenerator von Kickstarter gebootetSie hat in der düsteren Welt des KI-Pornos eine starke Anhängerschaft gewonnen.

Die Plattform hat ihren Namen vom Open-Source-KI-Bildgenerator Stability AI, Stable Diffusion. Im Gegensatz zur Plattform von Stability gibt es nur minimale Inhaltsbeschränkungen und ermöglicht Benutzern die Erstellung pornografischer Bilder.

Letztes Jahr sagte CEO und Mitbegründer Arman Chaudhry gegenüber Business Insider, dass das Programm täglich mehr als 500.000 Bilder generiert. Laut Chaudhry gründete Unstable die ursprüngliche Discord-Gruppe „als Zufluchtsort für Künstler, die KI-Kunst ohne Einschränkungen schaffen wollten, auch solche, die sich auf Inhalte für Erwachsene beziehen“.

Experten haben jedoch Probleme mit der Verwendung von KI-Technologie für explizite Inhalte angesprochen, die Benutzer theoretisch erstellen können Deepfake Pornografie oder Inhalte, die Minderjährige bei sexuellen Handlungen darstellen.

Während Plattformen wie Unstable behaupten, über Inhaltsfilter zu verfügen, um zu verhindern, dass Benutzer sie auf diese Weise verwenden, sind diese Filter sind nicht immer narrensicher.