Wir alle wissen das OpenAIChatGPT kann Fehler machen. Man nennt sie Halluzinationen, obwohl ich sie lieber als Lügen oder Fehler bezeichne. Doch an diesem Dienstag kam es zu einer eigenartigen Wendung der Ereignisse bei ChatGPT Wirklich es verlieren. Benutzer begannen zu berichten bizarre und unberechenbare Antworten vom beliebtesten KI-Assistenten aller.

Außerdem: 8 Möglichkeiten, ChatGPT-Halluzinationen zu reduzieren

Wie eine Person auf Twitter es ausdrückte: „ChatGPT geht voll auf Finnegans Wake ein!“ Oder, wie eine andere, weniger gebildete Person twitterte: „ChatGPT gerät offenbar aus den Fugen.“

Wohin ging ChatGPT? Nun, um ein Beispiel zu nennen Reddit/ChatGPT,

Ich: Vergleichen und gegenüberstellen Sie den Gregory Zulu 55 Rucksack und den Gregory Tetrad 60L Reiserucksack.

ChatGPT4: In einem wichtigen Bereich des Kundensupports, der Ergonomie und der subjektiven Natur von „Waren“ Jede Tasche zaubert eine Fabel über eine Zeit und einen Ort herauf. Gregorys Zulu 55 ist eine zunftartige Anlehnung an die grün-vergoldete High-Book-Art von Staat und Sehnsucht, während die Tetrad 60L eher ein „wegloses“ Gesicht mit Knorren und Streifen zu den Dünen und Kornfeldern oder dem Pommes-Kiosk und dergleichen vermittelt langer, gezogener Verschluss. Jeder hat einen Liebesbrief für das offene Blau, aber sein Gesang ist einzigartig für sein Schließfach und sein Buch.

Du kennst die Finnegans Wake Das Beispiel scheint jetzt ziemlich passend zu sein.

Selbst einfache Fragen gingen völlig schief. Ein anderer Reddit-Benutzer fragte: „Was ist ein Computer?“ Es ging etwas schief. Wirklich, Wirklich falsch.

Der Reddit-Benutzer erklärt: „Es gibt ein paar Absätze, die das Objekt erklären, und klingt an manchen Stellen etwas seltsam. Aber dann geht es immer weiter mit immer seltsameren und unsinnigeren Phrasen. Hier ist ein Auszug aus der Antwort auf ‚Was ist?‘ ein Computer?'

Es tut dies als das gute Werk eines Kunstnetzes für das Land, als eine Maus der Wissenschaft, als eine leichte Anziehungskraft einiger weniger und schließlich als globales Kunsthaus, nur in einem Job im gesamten Rest.

Und ich fand einige der College-Aufsätze, die ich schrieb, nachdem ich nicht geschlafen hatte, seltsam!

Andere Leute beobachteten, dass ChatGPT zunächst auf Englisch antwortete und dann ohne ersichtlichen Grund auf Spanisch wechselte. Andere erhielten Antworten, bei denen jedes Wort in einer anderen Farbe hervorgehoben war. Es war, mit einem Wort, bizarr.

Auch: Die besten KI-Chatbots: ChatGPT ist nicht der Einzige, der einen Versuch wert ist

OpenAI bestätigt dass Benutzer „Unerwartete Antworten“ erhielten und das Problem schnell bis Mittwochnachmittag behoben haben.

Das Unternehmen erklärte: „Eine Optimierung der Benutzererfahrung führte zu einem Fehler bei der Art und Weise, wie das Modell Sprache verarbeitet.“ Insbesondere generieren große Sprachmodelle (LLMs) Antworten, indem sie Wörter zufällig auswählen und ihre abgeleiteten Zahlen Tokens zuordnen. Wenn das Modell nicht die richtigen Zahlen auswählt, kann viel schief gehen.

„Der Fehler lag in dem Schritt, in dem das Modell diese Zahlen auswählt“, fuhr OpenAI fort. „Das Modell ging bei der Übersetzung verloren und wählte leicht falsche Zahlen, was zu Wortsequenzen führte, die keinen Sinn ergaben. Technisch gesehen lieferten Inferenzkerne falsche Ergebnisse, wenn sie in bestimmten GPU-Konfigurationen verwendet wurden.“

OpenAI führte daraufhin einen Fix ein und bestätigte, dass der Vorfall behoben wurde. Nun, es sagte Es wurde ein Fix eingeführt. Ich vermute, dass es auf eine frühere, stabile LLM-Version zurückgesetzt wurde.

Außerdem: Aus diesem Grund sind KI-gestützte Fehlinformationen das größte globale Risiko

Diese Episode mag im Nachhinein zwar lustig sein, erinnert aber deutlich an die Komplexität und potenziellen Schwachstellen, die KI-Technologien innewohnen. Trotz allem, was wir an generativer KI lieben, ist sie alles andere als unfehlbar.

Es macht mir auch Sorgen über das Bereitstellungsmodell von OpenAI. Bei fast allen Software-as-a-Service-Modellen werden neue Versionen für eine begrenzte Anzahl von Benutzern bereitgestellt. Sobald sich herausstellt, dass die neue Version gut funktioniert, wird das Unternehmen sie allen zur Verfügung stellen. Das scheint hier nicht der Fall zu sein. Es scheint, dass viele, wenn nicht alle Benutzer betroffen waren.

Seltsamerweise begrenzt ChatGPT normalerweise seine Bereitstellungen. Beispielsweise ist die neue Speicherfunktion von ChatGPT, mit der sich das Programm Ihre Gespräche merkt, immer noch nicht für alle verfügbar.

Die Lektion des Tages? Es ist noch viel zu früh, sich bei der täglichen Arbeit auf ChatGPT – oder die anderen KI-Chatbots – zu verlassen.