OpenAI hat am Mittwoch neue Richtlinien für den Betrieb seiner KI-Technologien wie chatgpt und Sora vorgestellt. Das kürzlich veröffentlichte Model Spec-Dokument enthüllte, dass das Unternehmen erwägt, in den Bereich expliziter Inhalte, einschließlich Pornografie, vorzustoßen.

Derzeit verbietet OpenAI die Generierung von sexuell eindeutigem oder anzüglichem Material. Ein Abschnitt der Modellspezifikation weist jedoch auf eine mögliche Änderung dieser Richtlinie hin und besagt, dass das Unternehmen nach Möglichkeiten sucht, solche Inhalte in geeigneten Kontexten zuzulassen.

„Wir prüfen die Möglichkeit, NSFW-Inhalte verantwortungsvoll in unsere API und ChatGPT zu integrieren und dabei ihre Eignung für verschiedene Altersgruppen zu berücksichtigen“, heißt es in dem Dokument und verwendet dabei einen gebräuchlichen Begriff für Inhalte, die nicht für Arbeitsumgebungen geeignet sind. „Wir wollen ein besseres Verständnis der Nutzer- und Gesellschaftserwartungen an das Modellverhalten in diesem Bereich gewinnen.“

In der Modellspezifikation wird beschrieben, dass NSFW-Inhalte möglicherweise Erotik, grafische Gewalt, beleidigende Sprache und Obszönitäten umfassen. Es bleibt unklar, ob die Erkundung von OpenAI zu einer leichten Lockerung seiner Nutzungsrichtlinien führen wird, etwa indem es die Generierung erotischer Texte ermöglicht, oder zu einer breiteren Akzeptanz gewalttätiger oder expliziter Inhalte.

Auf Anfrage von WIRED erklärte OpenAI-Sprecherin Grace McGuire, dass die Modellspezifikation darauf abzielt, die Transparenz im Entwicklungsprozess zu verbessern, indem Feedback von der Öffentlichkeit, politischen Entscheidungsträgern und anderen Interessengruppen gesammelt wird. Sie verzichtete jedoch darauf, Einzelheiten über die Erforschung von OpenAI bei der Generierung expliziter Inhalte oder das erhaltene Feedback zu diesem Konzept preiszugeben.

Anfang des Jahres äußerte Mira Murati, Chief Technology Officer von OpenAI, ihre Unsicherheit darüber, ob das Unternehmen Darstellungen von Nacktheit mit seinem Videogenerierungstool Sora zulassen würde.

Die Verbreitung von KI-generierter Pornografie stellt eine der bedeutendsten und besorgniserregendsten Anwendungen der generativen KI-Technologie dar, die von OpenAI entwickelt wurde. Diese expliziten Bilder oder Videos, die mit KI-Tools erstellt wurden und als „Deepfake-Pornos“ bezeichnet werden, zeigen oft echte Personen ohne deren Zustimmung und sind zu einem Instrument der Belästigung geworden, insbesondere gegen Frauen und Mädchen. In einer besorgniserregenden Entwicklung, über die WIRED im März berichtete, wurden zwei Teenager in Florida wegen der Verbreitung von KI-generierten Nacktbildern ihrer Mitschüler angeklagt. Dies dürfte die erste derartige Verhaftung von Minderjährigen in den Vereinigten Staaten sein.

Danielle Keats Citron, Professorin an der University of Virginia School of Law, warnt davor, dass das weit verbreitete Problem der Verletzung der Privatsphäre, wie zum Beispiel Deepfake-Sexvideos und andere synthetisierte intime Bilder ohne Zustimmung, schwerwiegende Folgen hat.

Laut Citron beeinträchtigt ein solcher Missbrauch die Möglichkeiten des Einzelnen in verschiedenen Aspekten des Lebens, einschließlich der Arbeit, der Sprache und der körperlichen Sicherheit.

Mehrere andere Experten finden den möglichen Schritt von OpenAI hin zur expliziten Generierung von KI-Inhalten zutiefst besorgniserregend. Trotz der aktuellen Richtlinien von OpenAI gegen Identitätswechsel ohne Zustimmung wäre die Aufnahme expliziter, nicht einvernehmlicher Bilder weiterhin verboten.

Die von Experten in dieser Angelegenheit geäußerten Bedenken werden durch einen früheren Vorfall mit Microsoft gestützt, bei dem das generative KI-Tool verwendet wurde, um explizite Bilder von Taylor Swift zu erstellen, die in sozialen Medien verbreitet wurden, was die Herausforderungen bei der Regulierung und Überwachung der Nutzung solcher Technologien verdeutlicht.

Es bleibt jedoch ungewiss, wie effektiv die Bemühungen von OpenAI sein werden, solche Inhalte zu moderieren und Missbrauch durch böswillige Benutzer zu verhindern.

(Mit Beiträgen von Agenturen)