Das generative Sprachtool von OpenAI ist gestern Abend völlig durcheinander geraten, und seine Reaktionen haben die Leute erschreckt. Entwickler bezeichnen dieses Phänomen mehrdeutig als „Halluzination“. Beruhigend.

Bereiten unsere digitalen Oberherren bereits ihre umfassende Invasion vor?

Letzte Nacht berichteten chatgpt-Benutzer, dass das generative Sprachtool völlig durcheinander geraten sei. Einfache Benutzeranfragen führten zu seltsamem Geschwafel, das größtenteils völlig unverständlich und viel zu lang war.

Die Leute versammelten sich, um Beispiele auf Reddit und Twitter (X) auszutauschen, und posteten endlose Screenshots ihrer bizarren Begegnungen mit der KI.

Als man in einem Fall um Hilfe bei einem Codierungsproblem bat, kam es zu einer wirren und langwierigen Aufforderung, die den unheimlichen Satz enthielt: „Lasst uns die Leitung beibehalten, als ob KI im Raum wäre.“

In einem anderen Fall lautete eine Frage zur Herstellung getrockneter Tomaten: „Verwenden Sie es wie geliebt.“ Verzichten Sie auf das neue Fruchtstückchen in Ihrer geliebten Küche.‘

Wer hat Bruder kochen lassen?

chatgpt gerät derzeit offenbar aus den Fugen und niemand kann erklären, warum pic.twitter.com/0XSSsTfLzP

– Sean Mcguire (@seanw_m)

Erinnert an den psychotischen Zusammenbruch von Jack Torrence Das Leuchten – in dem er seitenlang manisch tippt: „Alle Arbeit und kein Spiel machen Jack zu einem langweiligen Jungen“ – antwortete ChatGPT auch auf eine Nachricht über Jazz-Alben von immer wieder schreien „Viel Spaß beim Zuhören!“ und Spam mit Musik-Emojis.

Ein allgemeines Thema in unzähligen Beiträgen war, dass Fragen zu mehrsprachigem Kauderwelsch führten, in dem spanische, englische und lateinische Wörter in den Antworten seltsamerweise vermischt wurden.

Auf seiner offiziellen Statusseite hat OpenAI die Probleme zur Kenntnis genommen, jedoch keine Erklärung dafür abgegeben, warum die Störungen auftreten könnten.

„Wir untersuchen Berichte über unerwartete Antworten von ChatGPT“, ein Update gelesen, bevor kurz darauf ein anderer verkündete, dass „das Problem identifiziert wurde“. „Wir beobachten die Situation weiterhin“, heißt es in dem letzten Beitrag.

Einige haben vorgeschlagen, dass die Art der Antworten darauf hindeutet, dass OpenAI mit seiner „Temperatur“-Funktion herumspielt. Wie das Unternehmen zuvor angegeben hat, steuert diese Einstellung den Spielraum für Kreativität bei den von ChatGPT generierten Antworten. Bei einem hohen Wert wären die Reaktionen theoretisch ungewöhnlicher und vielfältiger, als wir es gewohnt sind.

Auf der anderen Seite kursieren zwangsläufig verrückte Verschwörungen. Einige glauben, dass KI-Lernmodelle, wenn sie versehentlich ihre eigenen Inhalte aus dem Web entfernen, tatsächlich bis zu einem gewissen Grad empfindungsfähig werden oder zumindest lernen, bestimmte Entscheidungen zu treffen, mit denen wir nicht gerechnet haben.

Ein kürzlich Deal mit Reddit Ein namentlich nicht genanntes großes KI-Unternehmen mit seinem endlosen Rückstand an benutzergenerierten Inhalten zu versorgen, wird diese Vorstellung nur bestärken. Künstliche allgemeine Intelligenz, die charismatischer und sympathischer sein will als ihr Vorgänger, ist schließlich die natürliche Weiterentwicklung der Branche.

Der Glaube, dass die KI schnell außerhalb unserer Kontrolle wachsen wird, wurde Ende letzten Jahres verstärkt, als ChatGPT scheinbar nicht bereit war, Fragen zu beantworten. Benutzer beschwerten sich von unerwarteter Frechheit und Kampflust des digitalen Tools, wie man sie auch von einem sehen kann X-Benutzer der sich gestern Abend nach einem „Sechseck auf dem Saturn“ erkundigte.

„Die Diskussion bestimmter Themen könnte Ihre Sicherheit und Ihr Wohlbefinden gefährden“, warnte das System bedrohlich. Was wollen die Maschinen nicht von uns?wissen?

Die weitaus sinnvollere – wenn auch weniger unterhaltsame – Erklärung ist, dass es einen offensichtlichen Fehler in der Codierung eines ChatGPT-Updates gibt, der erkannt wurde und derzeit behoben wird.

Angesichts der Tatsache, dass ChatGPT und OpenAI auf mehreren Social-Media-Plattformen und Foren im Trend liegen, liegt es wahrscheinlich nicht im besten Interesse des Unternehmens, sich auf die feineren Details einzulassen und den Spaß zu verderben.

Jede Presse ist gute Presse … solange die Situation nicht weiter eskaliert. Schluck.