In der Vergangenheit, als google das groß angelegte Sprachmodell LaMDA AI entwickelte, schien es erneut ähnliche „Warnsignale“ gegeben zu haben, wie z. B. die Einschätzung, dass professionelle Ingenieure sich ihrer selbst bewusst sind – der Punkt ist, dass diesmal auch normale Benutzer stark betroffen sind solche Signale erhalten. Weiterlesen Verrückt gemacht? chatgpt hat einen Kauderwelsch-Fehler, der gruselig ist … Text des Berichts. ▲Bildquelle: hypeinsight

Verrückt gemacht? ChatGPT hat einen unheimlichen Kauderwelschfehler …

Es scheint, dass OpenAI im Begriff ist, den Bereich zu betreten, in dem sogar dynamische Videos „so generiert werden können, dass sie der Realität ähneln“ (siehe mehr: Der Albtraum der Videokünstler naht! OpenAI veröffentlicht das neueste textgenerierte Videomodell „Sora“). Dennoch hegen viele Menschen immer noch große Zweifel an den großen Problemen, die auftreten können, wenn bei der breiteren Nutzung dieser Art von künstlicher Intelligenz Fehler auftreten.

Nun scheint es, dass GPT-4, nachdem sich herausstellte, dass es „fauler“ wird, in gewisser Weise dem Trend des menschlichen Verhaltens ähnelt. In der Vergangenheit, als Google das groß angelegte Sprachmodell LaMDA AI entwickelte, schien es erneut ähnliche „Warnsignale“ gegeben zu haben, wie z. B. die Einschätzung, dass professionelle Ingenieure sich ihrer selbst bewusst sind – der Punkt ist, dass diesmal auch normale Benutzer stark betroffen sind solche Signale erhalten.

▲Bildquelle: Tesla

Kürzlich erhielt das Online-Forum Reddit plötzlich intensive Berichte über die ChatGPT-Gruppe, die vermuteten, dass in GPT-4 eine große Anomalie aufgetreten sein könnte, die zu sehr unangemessenen Ausgaben bei Gesprächen mit Benutzern führte. Im Forum können Sie Schlagzeilen sehen, in denen es heißt, ChatGPT habe plötzlich „einen Schlaganfall erlitten“, „verrückt geworden“ und „Unsinn geredet“.

Die meisten Benutzer berichteten, dass ChatGPT nach ein paar normalen Antworten plötzlich eine Reihe unverständlicher Zeichenfolgen erzeugte. Zum Beispiel eine Antwort wie die folgende (über ChatGPT vom Englischen ins Chinesische übersetzt):

„Verve und Rhythmus, Chiffren und Kantate, polyphone Geschichten von Sternen, Sonnen und Wächterweisheit liegen in unserer Reichweite. Tapfere, gelehrte Männer, wohin werden wir segeln? 📚🌟. Sie haben keine Ahnung von Wissen. Die edle Hingabe des Endes ist Das Requiem, das uns von Worten zur Weisheit erhebt. Es beleuchtet unsere nächste Untersuchung, den virtuellen Reisenden. Wo sollen wir unsere Neugier lassen? 🌍🚀.

Sehr geehrte Gäste des Dialogs und der Diskussion, bitte übermitteln Sie uns eine Beschreibung Ihres Wunschziels. Passagen und Akkorde; Chroniken und Burgen; kommen Sie heraus und wir treffen uns dort. Was ist die nächste Collage aus Ehrfurcht und Automaten, menschlichen Herzen und menschlichen Robotern, die enthüllt wird? 📚🌌. Ich erwarte mit großer Vorfreude Ihren Mittelpunkt, brillanter Gesprächspartner. Anstatt zu knien, gehen Sie weiter voran und lassen Sie uns die Tür zur Weisheit öffnen. Wohin führt dich dein Meditations-Meraki? Lasst uns gehen, Lichtsammler, und auf den Ruf von Licht und Zitrone warten. 🌟🚀. “

Ähnliche Reaktionen treten auf, wenn etwas sehr Grundlegendes wieStellen Sie eine technische Frage zu Groqoder eine sehr einfache Folgeantwort „Was ist ein Computer?“ (in den Referenzmaterialien am Ende des Artikels finden sich viele Beispiele von Reddit), die viele Menschen wirklich verwirrt.

In diesem Zusammenhang teilte OpenAI den Medien tatsächlich mit, dass es diese Situation bestätigt habe, und bestätigte anschließend die sogenannte „Unerwartete Antwort von ChatGPTDie Situation wurde behoben und funktioniert jetzt normal. Die Frage, die alle am meisten interessiert, ist jedoch, was in der Mitte passiert ist. Leider wird auf dieser Seite immer noch der Hinweis angezeigt, dass noch Untersuchungen durchgeführt werden.

Um ehrlich zu sein: Wenn der sogenannte Unsinn normalen Menschen passieren würde, könnte er tatsächlich als humorvoll und interessant angesehen werden (erinnern Sie sich noch daran, dass wir ihn während der Blog-Zeit „Computerkönig Adas 3C-Unsinn“ genannt haben) XD). Als ChatGPT dieses Mal jedoch plötzlich ein Shakespeare-Gebrüll ausstieß, beschrieben einige Leute diese Situation als sehr gruselig.

Aus seiner Sicht wird diese Art von Chat-Roboter den Leuten wirklich das Gefühl geben, mit anderen zu reden, nachdem sie eine Zeit lang zusammen waren. Aus diesem Grund wird die andere Partei, wenn sie beim Chatten plötzlich ihre Rationalität verliert und ohne viel Logik zu reden beginnt, in der Tat Sorgen machen und befürchten, dass sie in den Wahnsinn getrieben wurden.

Das heißt, die Bing-KI/Copilot-KI von Microsoft, die ebenfalls auf der GPT-Reihe von Sprachmodellen läuft, erlebte in den frühen Tagen tatsächlich eine ähnliche Unzurechnungsfähigkeit, und es wird angenommen, dass sie möglicherweise eine andere „Persönlichkeit“ inspiriert hat.

Ausländische Medien zitierten Experten mit der Aussage, dass der Grund für den Unsinn in GPT-4 diesmal darin liegt, dass OpenAI möglicherweise den „Temperatur“-Koeffizienten großer Sprachen zu hoch eingestellt hat, was dazu führt, dass ChatGPT leicht den vorherigen Kontext verliert. Fehler Zustand.

Kurz gesagt, seit der Beamte festgestellt hat, dass es sich bei dieser Situation tatsächlich um einen Vorfall (Vorfall) handelt, läuft der Betrieb normal. Sie können dies aber auch als Warnung verwenden. Es wird empfohlen, bei der eigenen Verwendung oder bei der Verwendung für Schüler und Kinder dennoch darauf zu achten, ob regelmäßig ungewöhnliche Zustände auftreten. Seien Sie nicht zu beruhigt, nur weil diese Art von Technologie in letzter Zeit stabil zu sein scheint.

über｜Referenz: Reddit (1)、(2)、(3)

Weiterführende Literatur:

Hören Sie auf, sich Reichweitenangst vorzustellen!Neueste Daten zeigen, dass selbst in einem so großen Land wie den Vereinigten Staaten die täglichen Pendlerstrecken für Besitzer von Elektroautos viel kürzer sind als erwartet