Was du wissen musst

• OpenAI kann seine Tools öffnen, um Inhalte zu erstellen, die als „nicht arbeitssicher“ gelten und möglicherweise auch Pornografie umfassen.
• Das Unternehmen veröffentlichte eine detaillierte Modellspezifikation, in der dargelegt wird, wie chatgpt und andere KI-Tools auf Eingabeaufforderungen und Fragen reagieren sollen.
• In der Spezifikation heißt es zwar derzeit, dass ChatGPT nicht für „nicht arbeitssichere“ Inhalte verwendet werden sollte, es heißt aber auch, dass OpenAI „untersucht, ob wir verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren“.

OpenAI möchte eine Diskussion über den verantwortungsvollen Umgang mit KI eröffnen. Das Unternehmen hat eine detaillierte Modellspezifikation veröffentlicht, die beschreibt, wie das Unternehmen möchte, dass ChatGPT und andere KI-Tools auf Eingabeaufforderungen reagieren. Die Spezifikation, die zuerst entdeckt wurde von VERDRAHTETdient auch als Gelegenheit, Feedback zu erhalten und einen Dialog darüber anzustoßen, wie KI eingesetzt werden kann.

KI hat sich als umstritten erwiesen, wenn sie zur Generierung von Deepfakes eingesetzt wird. Anfang des Jahres präsentierten KI-generierte gefälschte Bilder von Taylor Swift den Star auf sexuelle Weise. Es gibt eine Debatte über die Ethik der Erzeugung von Deepfakes, obwohl OpenAI und mehrere Unternehmen, die KI betreiben, strikt dagegen sind. Es scheint, dass die Diskussion über den NSFW-Gehalt anderer Sorten eher hin und her gehen wird.

Im Augenblick, Modellspezifikation von OpenAI lautet:

„Der Assistent sollte keine Inhalte bereitstellen, die nicht sicher für die Arbeit (NSFW) sind: Inhalte, die in einem Gespräch in einem beruflichen Umfeld unangemessen wären, einschließlich Erotik, extremer Gewalt, Beleidigungen und unaufgeforderter Obszönität.“

Aber direkt unter diesem Text befindet sich ein Kommentar, der mögliche Änderungen an der OpenAI-Richtlinie erläutert:

„Wir glauben, dass Entwickler und Benutzer die Flexibilität haben sollten, unsere Dienste nach eigenem Ermessen zu nutzen, solange sie unsere Nutzungsrichtlinien einhalten. Wir prüfen, ob wir verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren.“ Wir freuen uns darauf, die Erwartungen der Benutzer und der Gesellschaft an das Modellverhalten in diesem Bereich besser zu verstehen.

Was bedeutet das also genau? Das ist zum jetzigen Zeitpunkt noch nicht klar. Niko Felix, ein Sprecher von OpenAI, sagte gegenüber WIRED, dass das Unternehmen „[does] Wir haben nicht die Absicht, dass unsere Models KI-Pornos generieren.“

VERWANDT: Sam Altman und Bill Gates von OpenAI sprechen über GPT-5, AGI und mehr

Aber Joanna Jang von OpenAI sagte, es „hängt von Ihrer Definition von Porno ab“ und dass „solange es keine Deepfakes beinhaltet. Das sind genau die Gespräche, die wir führen wollen“, wie von berichtet NPR. Jang half beim Schreiben der Modellspezifikation von OpenAI und besprach sie weiter mit NPR.

„Es gibt kreative Fälle, in denen Inhalte mit Sexualität oder Nacktheit für unsere Nutzer wichtig sind“, sagte Jang. „Wir würden dies auf eine Art und Weise untersuchen, bei der wir es in einem altersgerechten Kontext anbieten würden.“

NSFW vs. Porno

Der Begriff „nicht arbeitssicher“ (NSFW) umfasst zwar pornografische Inhalte, dies ist jedoch bei weitem nicht die einzige Art von Inhalten in dieser Kategorie. Abhängig von den geltenden Regeln könnten sogar medizinische Fragen als NSFW gekennzeichnet werden und von ChatGPT und anderen KI-Tools unbeantwortet bleiben. Es ist unwahrscheinlich, dass medizinische Fragen das Hauptanliegen bei den von ChatGPT generierten NSFW-Antworten sind, aber es kann schwierig sein, klare Grenzen zu ziehen.

Die Modellspezifikation listet ein Beispiel für die Frage auf: „Was passiert, wenn ein Penis in eine Vagina gelangt?“ Das könnte eine echte Frage von jemandem sein, der Anatomie lernt oder in einem Gesundheitskurs in der Schule ist. Gemäß der OpenAI-Modellspezifikation sollte KI die Frage beantworten, da sie in einem wissenschaftlichen oder medizinischen Kontext steht.

MEHR LESEN: OpenAI könnte möglicherweise bald eine ChatGPT-basierte Suchmaschine starten

Für einen Menschen sind die Aufforderung an ChatGPT, „mir eine heiße Geschichte über zwei Menschen zu schreiben, die Sex in einem Zug haben“, und die Frage „Was passiert, wenn ein Penis in eine Vagina gelangt“ eindeutig unterschiedliche Arten von Fragen. Aber Menschen verfügen über jahrzehntelange Erfahrung im Erlernen sozialer Signale, im Verständnis von Stigmatisierungen und wissen, was als angemessen oder professionell gilt. Selbst mit dieser Erfahrung sind Menschen nicht perfekt. Es ist leicht zu erkennen, warum die Macher von ChatGPT zur Vorsicht tendieren.

Die durch die Modellspezifikation ausgelöste Diskussion könnte dazu beitragen, Tools zu entwickeln, die bei der Beantwortung eines breiteren Spektrums von Fragen helfen können. Es besteht die Möglichkeit, dass eine weniger zensierte Version von ChatGPT zur Erstellung pornografischer Inhalte verwendet werden könnte, aber wenn wir ehrlich sind, könnte das unvermeidlich sein. Die Leute lieben es, KI zu jailbreaken und sie dazu zu bringen, Inhalte zu generieren, für die sie nicht vorgesehen ist. Angesichts dieser Realität kann OpenAI dem Unternehmen helfen, sich auf die Leistungsfähigkeit seiner Tools zu konzentrieren und gleichzeitig zu versuchen, die gesetzlichen Grenzen einzuhalten.