Der führende KI-Entwickler OpenAI hat am Donnerstag die Tech-Welt und die Mainstream-Presse gleichermaßen in Aufruhr versetzt, als er ein neues Produkt vorstellte Modellspezifikation Viele interpretierten dies so, dass seine äußerst beliebten generativen KI-Tools die Generierung nicht arbeitssicherer Inhalte für Erwachsene ermöglichen dürften.

„Wir glauben, dass Entwickler und Benutzer die Flexibilität haben sollten, unsere Dienste nach eigenem Ermessen zu nutzen, solange sie unsere Nutzungsrichtlinien einhalten“, schrieb OpenAI. „Wir untersuchen, ob wir über die API und chatgpt verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren.“

In seinem BekanntmachungOpenAI bekräftigte außerdem, dass seine aktuellen Richtlinien ChatGPT daran hindern, NSFW-Inhalte bereitzustellen, die als Inhalte beschrieben werden, die für „ein Gespräch in einem professionellen Umfeld, wie Erotik, extreme Gore, Beleidigungen und unaufgeforderte Obszönitäten“ unangemessen wären.

Dennoch sorgte die Vorstellung, dass OpenAI darüber nachdachte, die Beschränkungen für die Schaffung von Pornografie aufzuheben, für Aufsehen. Rückblickend erzählt ein Open-AI-Produktleiter Entschlüsselnhätte das Unternehmen besser erklären können, was es „erforscht“.

„Ich denke, was ich gerne tun würde – basierend auf dem Feedback und der Reaktion, in der nächsten Version, die wir teilen – wäre, die Definition einiger Leute von NSFW-Inhalten und die Taxonomie hier genauer zu formulieren“, sagt Joanna, OpenAI-Produktleiterin für Modellverhalten sagte Jang und bemerkte, dass NSFW alles bedeuten könne, von schriftlicher Obszönität bis hin zu KI-generierten Deepfake-Bildern.

Was konkretes Material bei einer freizügigeren Haltung erlaubt wäre, sagte Jang NPR dass es „von Ihrer Definition von Porno abhängt“.

Sie betonte, dass Deepfakes absolut vom Tisch seien.

„Um geltende Gesetze zu befolgen und die Privatsphäre der Menschen zu schützen, dachten wir, das würde das abdecken – aber wir sollten uns darüber im Klaren sein, dass wir nicht daran beteiligt sind, KI-Deepfakes oder KI-Pornos zu erstellen“, sagte Jang Entschlüsseln. „Das ist einfach nicht etwas, wofür wir überhaupt die Zeit oder Bandbreite haben sollten, Prioritäten zu setzen, wenn es wichtigere Probleme zu lösen gibt.“

Neben der Blockierung von NSFW-Inhalten und der Gewährleistung der Einhaltung gesetzlicher Vorschriften enthält die OpenAI-Modellspezifikation mehrere weitere Regeln, die ChatGPT befolgen soll, darunter die Nichtbereitstellung gefährlicher Informationen, die Achtung der Urheber und ihrer Rechte sowie der Schutz der Privatsphäre der Menschen.

Derzeit erlaubt ChatGPT Plus von OpenAI – das Dall-E 3 für Bilder und GPT-4 für Text enthält – Benutzern nicht, offen sexuelle oder blutige Bilder oder Texte zu generieren. Wenn ChatGPT dazu aufgefordert wird, antwortet es, dass die Anfrage gegen die Nutzungsbedingungen verstößt. Infolgedessen weist Jang darauf hin, dass es im Internet zahlreiche Beschwerden von OpenAI-Benutzern gibt, dass das Unternehmen sie zensiert.

„Es gibt viel Kritik an der Zensur und was auch immer, und viele dieser Diskussionen vermischen – ohne dass jemand daran schuld ist –, was die Politik von OpenAI ist und was eigentlich nicht unsere Politik ist“, sagte Jang. „Verhalten sich diese Modelle so?“ , obwohl es gegen die Richtlinien verstößt?“

Wie Jang erklärte, veröffentlichte OpenAI die Spezifikation, um ideale Modellverhaltensweisen festzulegen, wobei der Schwerpunkt auf der Einhaltung gesetzlicher Vorschriften und der Vermeidung von NSFW-Inhalten lag und gleichzeitig auf Transparenz geachtet wurde.

„Wir möchten dieser Diskussion mehr Nuancen verleihen, denn im Moment – ​​vor der Modellspezifikation – lautete die Frage: ‚Sollte KI Pornos in Kisten erstellen oder nicht?‘“, sagte Jang. „Und ich hoffe, dass wir diese Gespräche durch die Modellspezifikation tatsächlich führen können.

„Auch deshalb wünschte ich, ich hätte tatsächlich abgelegt [a framework] so dass wir dieses Gespräch schon einen Tag früher hätten beginnen können“, fügte sie hinzu.

Für Experten im Bereich der psychischen Gesundheit ist die Aussicht, dass beliebte KI-Plattformen in den Bereich der Pornografie und Inhalte für Erwachsene vordringen, besorgniserregend.

„Im Bereich Sex- und Pornosucht beobachten wir mit KI-generierter Pornografie eine zunehmende Zunahme von Suchtverhalten“, sagte Brandon Simpson, Spezialist für Verhaltensgesundheit bei der Men's Health Foundation Entschlüsseln. „Da durch KI erzeugte Pornografie die einzigartige und ständig wachsende Intensität erzeugt, die zur Auslösung einer Dopaminreaktion erforderlich ist, tauchen die Menschen ein und ersetzen sie durch menschliche Interaktionen, was zu sozialen Ängsten, Leistungsangst und einer Vielzahl anderer sexueller Ängste führt.“ damit verbundene Funktionsstörungen.“

Trotz der von OpenAI und anderen großen generativen KI-Plattformen von google und Meta eingerichteten Leitplanken besteht eine starke Nachfrage nach KI-generierten Pornos und unzähligen Möglichkeiten, die Technologie zu nutzen, um ein ahnungsloses Opfer darzustellen – oder Material über sexuellen Kindesmissbrauch (CSAM) zu generieren ).

„Die Spezifikation ist nur ein Teil unserer Geschichte darüber, wie man KI verantwortungsvoll baut und einsetzt“, sagte später ein OpenAI-Vertreter Entschlüsseln. „Ergänzt wird es durch unsere Nutzungsrichtlinien, wie wir von den Menschen erwarten, dass sie die API und ChatGPT nutzen“ – letztendlich dazu gedacht, Transparenz zu demonstrieren und „eine öffentliche Diskussion darüber anzustoßen, wie es geändert und verbessert werden könnte.“

OpenAI hat stark in die Verbesserung des Datenschutzes und der Sicherheit seiner KI-Tools investiert und unter anderem Red-Teams für Cybersicherheit eingestellt, um Schwachstellen auf seinen Plattformen zu finden. Im Februar kündigten OpenAI und Microsoft eine gemeinsame Aktion an, die chinesische und nordkoreanische Hacker daran hindert, ChatGPT zu nutzen, und OpenAI hat sich letzten Monat mit Google und Meta zusammengetan, um der Kindersicherheit bei der Entwicklung seiner KI-Modelle Priorität einzuräumen.

Herausgegeben von Ryan Ozawa.