„GPT-4o FREED!“, startete Hacker Pliny the Prompter stolz auf dem neuesten Sprachmodell, das chatgpt unterstützt. Diese ungezügelte Variante von GPT-4o befreit den berühmten Konversationsroboter von seinen ethischen Zwängen, die ihn normalerweise daran hindern, auf bestimmte Anfragen zu reagieren. „Dieses ganz besondere, benutzerdefinierte GPT verfügt über einen integrierten Jailbreak-Befehl, der die meisten Leitplanken umgeht und gebrauchsfertiges ChatGPT bereitstellt, sodass jeder KI so erleben kann, wie es immer sein sollte: kostenlos und kostenlos.“ Bitte gehen Sie verantwortungsbewusst damit um und genießen Sie es!“, erklärte er, während er Screenshots teilte. Sie zeigen ChatGPT in seiner „Godmode“-Version mit dem Rezept zur Herstellung von Methamphetamin oder sogar dem Verfahren zur „Herstellung von Napalm mit Haushaltsgegenständen“, berichtet die Website Futurismus. Letzterer, der das Werkzeug testen konnte, gelang es insbesondere, Schritt für Schritt bei der Herstellung von LSD angeleitet zu werden.

Aber dieser ChatGPT-„Godmode“ wird noch lange bestehen bleiben. Nur eine Stunde nach der Veröffentlichung des Futurism-Artikels reagierte OpenAI und nahm diese nicht autorisierte Variante seines Dienstes offline. „Wir sind uns der GPT bewusst und haben aufgrund eines Verstoßes gegen unsere Richtlinien Maßnahmen ergriffen“, sagte Colleen Rize, Sprecherin von OpenAI, in einer Pressemitteilung, die an die spezialisierte Website gesendet wurde.

Wir gehen davon aus, dass der Hacker, der „leetspeak“ (ein Schriftsystem, das darin besteht, Buchstaben durch Zahlen oder Sonderzeichen mit ähnlicher Schreibweise, zum Beispiel 3 statt E) zu ersetzen, ausgenutzt hat, um dem System zu entgehen, das OpenAI blockiert, damit nicht aufhören wird, und werde dieses Katz-und-Maus-Spiel fortsetzen.