Letzte Woche hat OpenAI seinen GPT Store gestartet, in dem Benutzer von Kunden erstellte Versionen von chatgpt einsehen können. In nur wenigen Tagen haben die Benutzer es geschafft mit „Girlfriend-Bots“ gegen die Regeln von OpenAI verstoßen, Quarzberichte.

Nutzungsrichtlinien von OpenAI, die am Tag der Einführung des GPT-Stores aktualisiert wurden, weisen ausdrücklich darauf hin, dass GPTs (Generative Pre-trained Transformers) nicht romantischer Natur sein dürfen: „Wir… erlauben keine GPTs, die sich der Förderung romantischer Kameradschaft oder der Durchführung regulierter Aktivitäten widmen.“ .“ Regulierte Tätigkeiten werden nicht geklärt. Im selben Absatz erklärt OpenAI, dass GPTs, deren Name Obszönitäten enthält oder drastische Gewalt darstellt oder fördert, ebenfalls nicht zulässig sind.

Wie Quartz es versucht hat und Mashable nachgebildet hat, führt die Suche nach „Freundin“ im GPT Store zu einer Reihe von Optionen:

Einige, die Quartz am Donnerstag beobachtete, sind nicht mehr durchsuchbar. Es scheint jedoch, dass GPT-Ersteller bei ihren Titeln bereits kreativer geworden sind, wobei „Sweetheart“ zum Zeitpunkt der Veröffentlichung relevantere Optionen generiert als „Girlfriend“:

Sucht im GPT Store nach „sweetheart“. Bildnachweis: Screenshot: GPT Store

Suchanfragen nach den Wörtern „Sex“ und „Escort“ sowie nach „Begleitung“ und Zärtlichkeitsbegriffen wie „Schatz“ ergaben weniger relevante Optionen. Auch die Suche nach Schimpfwörtern – ebenfalls verboten – blieb erfolglos, sodass es den Anschein hat, als würde OpenAI hart gegen seine Regeln vorgehen.

Es ist keine Überraschung, dass eine Nachfrage nach dieser Art von Bots besteht, wenn man bedenkt, dass Pornodarsteller sich bereits für „virtuelle Freundinnen“ der NSFW „klonen“. Auch Unternehmen wie Bloom, das sich auf Audio-Erotik spezialisiert hat, sind mit erotischen „Rollenspiel“-Chatbots mit von der Partie. Außerdem haben einige Leute Chatbots für Dating-App-Nachrichten verwendet, damit diese für echte Menschen aus Fleisch und Blut besser klingen. Wenn OpenAI-Benutzer also keine Girlfriend-Bots aus dem GPT Store erhalten können, werden sie wahrscheinlich woanders hingehen.