Zunächst eine kleine Einführung. Von neuronalen Netzen bin ich sehr weit entfernt. Irgendwann in den 90er Jahren hatte ich das Glück, in die Bibliothek eines verstorbenen Forschungsinstituts einzutauchen. Das Gebäude wurde als Büro vermietet und die Bibliothek landete im Altpapier. Zu den Funden gehörte das Buch „Automata and Intelligent Behavior“, in dem sowjetische Experimente zum Einsatz neuronaler Netze für Orientierungsaufgaben beschrieben wurden. Ich habe die Idee des M-Automaten von dort übernommen und leicht überarbeitet und versucht, etwas zu schaffen, das man nun eine Art wiederkehrendes neuronales Netzwerk nennen würde, das aus dem Tippen lernen und auf Textanfragen reagieren musste. Zwar standen für das Training nur wenige Texte zur Verfügung, und der leistungsstärkste Computer, der mir zur Verfügung stand, war ein 386SX mit 4 Megabyte Speicher. Nachdem ich jedoch mit den Koeffizienten herumgespielt hatte, bekam ich so etwas wie einen Chatbot, der über Textteile schwärmen und diese auf komplizierte Weise kombinieren konnte. Alle Versuche, das Modell zu verbessern, stießen auf die Notwendigkeit einer manuellen Auswertung der Ergebnisse, worauf ich mental nicht vorbereitet war und die Idee aufgab. Wie überrascht war ich, Jahre später zu erfahren, dass jemand immer noch nicht faul genug war und etwas Ähnliches in viel größerem Maßstab tat und Chat-GPT entwickelte! Obwohl Chat-GPT nach etwas anderen Prinzipien funktioniert als mein AMIN (Assoziatives Intelligenzmodell, wie ich es damals nannte, nicht ohne Pathos), verstehe ich dennoch wahrscheinlich ziemlich gut, wie dieses Ding funktioniert und was man davon erwarten kann. Und angesichts der allgemeinen Begeisterung für Chatbots habe ich einige ernsthafte Bedenken.

Zunächst einmal deprimiert es mich, dass viele Menschen den Chatbot als ein vielleicht noch unterentwickeltes, aber dennoch intelligentes Wesen mit Wissen betrachten. Sie müssen sich ganz klar darüber im Klaren sein, dass es sich tatsächlich um einen sehr komplexen, aber dennoch Automaten handelt, der das darin eingebettete Programm ausführt. Die Schlauen waren diejenigen, die es lehrten und viel Zeit und Ressourcen in die Markierung investierten – um anzuzeigen, was richtig und was falsch ist. Der Bot selbst kann dies nicht bestimmen, dafür muss man ein rationales Wesen sein, was er nicht ist. Wenn Sie ihm jedoch eine Frage zur Richtigkeit dieser oder jener Aussage stellen, wird er völlig frei antworten. Aber ist die Antwort richtig?

Für einen Menschen fällt diese Entscheidung (richtig/falsch) meist nicht schwer. Es kann sehr lange dauern, bis wir die Antwort auf ein Problem finden, aber normalerweise können wir ganz einfach feststellen, ob sie richtig ist oder nicht. Für einen Bot ist das Gegenteil der Fall – er findet die Antwort leicht „durch Assoziation“, da er anhand einer großen Anzahl von Beispielen trainiert wurde, aber ob diese Antwort wahr ist oder nicht, weiß er nicht. Und es kann nicht bestimmt werden, sonst wäre keine manuelle Schulung erforderlich. Tatsächlich arbeitet der Bot „gemäß der Anweisung“, also der Anfrage, und führt diese mit Hilfe zuvor geladener „Anweisungen“ aus. Ja, es ist sehr komplex, und wenn man nicht alles weiß, was ihm innewohnt (und das ist für einen Menschen physikalisch unmöglich), kann es sogar so aussehen, als sei er vernünftig. Aber das ist nur eine Illusion, der Bot ist nicht in der Lage, über das hinauszugehen, was ihm beigebracht wurde. Und je weiter die Anfrage von dem entfernt ist, was ihr direkt beigebracht wurde, desto weniger zuverlässig sind ihre Antworten.

Ich sehe bereits eine ganze Reihe von Einwänden, dass Menschen dasselbe haben, und darin unterscheidet sich ein Bot nicht von einer Person. Um sie zu beantworten, möchte ich noch einen Exkurs machen. In der Zeit vor dem Internet waren Bücher praktisch die einzige Wissensquelle. Wenn Sie an der Antwort auf eine Frage interessiert waren, mussten Sie 5 Kilometer bergauf zur Bibliothek laufen und dort nach der Antwort suchen. Es sah so aus: Es gab zwei riesige Kataloge, alphabetisch und nach Rubriken sortiert. Gehen Sie zunächst zur Rubrik und suchen Sie nach Büchern in dem Wissensbereich, der Sie interessiert. Anschließend holen Sie sich diese Bücher und beginnen mit der Lektüre. Das Buch gibt keine einfachen und klaren Antworten (es sei denn, es handelt sich um ein Nachschlagewerk), sondern erklärt vielmehr, wie man selbst die richtige Antwort findet. Es gibt keine Wortsuche im Buch. Um an die benötigten Informationen zu gelangen, müssen Sie es in den meisten Fällen zuerst lesen, um Definitionen und Notationen zu finden, eine Einführung in das Problem zu erhalten, Lernmethoden usw Links zu anderen Quellen. Wenn Ihnen das Buch nicht hilft, die Antwort zu finden, gehen Sie zum alphabetischen Katalog, um herauszufinden, worauf sich der Autor bezieht, und der Vorgang wird wiederholt. Ja, es ist langwierig, schwierig und das Ergebnis ist nicht garantiert. Aber nachdem Sie sich Zeit genommen haben, erhalten Sie eine Basis, die heute als „Hintergrund“ bezeichnet wird – Sie erfahren nicht nur die Antwort, sondern wissen auch, wie diese Antwort aufgenommen wurde und warum sie so ist. Jetzt sieht der Prozess, eine Antwort zu erhalten, viel einfacher aus: Sie gehen zu google, geben eine Anfrage ein, suchen die gewünschte Seite und suchen darauf nach der Antwort. Schnell, bequem. Als Ergebnis erhalten Sie jedoch nur die Antwort und sonst nichts. Man kann nicht sagen, ob es die richtige Antwort ist oder ob jemand wieder einen Fehler bei Wikipedia gemacht hat. Wenn ein Bot dasselbe tut, sehen Sie den Unterschied nicht und kommen zu dem Schluss, dass der Bot genauso intelligent ist wie Sie. Glückwunsch.

Der Bot kennt die Antworten. Wenn Sie eine Anfrage stellen, gibt er die Antwort zurück, die der von Ihnen erwarteten Antwort am ähnlichsten ist. Im Grunde ist es dasselbe wie Google, aber viel schneller. Und die größte Gefahr besteht darin, dass die Leute bald aufhören werden, nach Antworten auf ihre Fragen zu googeln. Bei all seinen Mängeln erfordert Google dennoch einiges Geschick. Sie können sich nicht auf den gewünschten Teil des Artikels beschränken, sondern tiefer gehen und trotzdem das Problem in seiner Gesamtheit verstehen. Sie erhalten nebeneinander einige Informationen, die Ihnen später nützlich sein können. Bei einem Bot ist das eine völlig unnötige und sinnlose Fähigkeit. Wenn Sie danach fragen, können Sie eine verfeinerte Antwort parat haben, sogar einen einfachen Code. Sie erledigen mehr Arbeitsaufgaben in der gleichen Zeit und verdienen mehr Geld. Es scheint, was ist hier schrecklich?

Die Probleme beginnen, wenn Sie auf eine Frage stoßen, auf die noch niemand eine Antwort weiß. Ja, das passiert selten, aber so geschieht Entwicklung – jemand stolpert über ein unerforschtes Gebiet, macht eine Entdeckung und bringt die Menschheit ein Stück weiter. Jetzt spreche ich nicht nur über wissenschaftliche Probleme, Sie können einen Algorithmus verbessern, eine bequemere Benutzeroberfläche entwickeln, ein Bild zeichnen, Musik schreiben, eine Geschichte oder Geschichte schreiben. Etwas Neues, das es so noch nicht gab. Viele werden sagen – aber wir können es noch nicht, lol. Warum kannst du nicht? Liegt es daran, dass sie es gewohnt sind, mithilfe einer Suche vorgefertigte Antworten zu erhalten? Aber einige können es immer noch. Sie können es immer noch, aber bald werden sie verschwinden und den Wettlauf um „Arbeitseinheiten pro Stunde“ einfach an diejenigen verlieren, die sich nicht darum kümmern. Und dann wird die Katastrophe die Menschheit ereilen.

Wie wird es aussehen? Ich weiß nicht. Höchstwahrscheinlich wird sich alles allmählich verschlechtern. Eine gewisse Ungenauigkeit in den Antworten des neuronalen Netzwerks, multipliziert mit dem globalen Umfang der Anwendung, führt zu einem ständigen Strom von Fehlern, mit denen niemand umgehen kann. Dazu wird dasselbe neuronale Netzwerk befragt, das Antworten gibt, manchmal helfen sie, manchmal nicht. Und es wird für jeden einfacher sein, sich damit abzufinden, dass etwas nicht funktioniert, als das Problem zu verstehen, da niemand über die dafür notwendigen Fähigkeiten verfügt. Haben Sie den Film „Idiocracy“ gesehen? Auch dort fuhren alle typisch einen Computer. Und es ist auch alles fehlgeschlagen, es hat nicht gut funktioniert und niemand konnte etwas dagegen tun.

Im Allgemeinen möchte ich sagen, was ich sagen möchte. Die Menschheit scheint tatsächlich vor einer der größten Herausforderungen ihrer jahrtausendealten Geschichte zu stehen. Wird es für ihn funktionieren? Frage aller Fragen. Sie müssen den Chatbot fragen.

2 Telegram-Bots erstellt, die die ChatGPT-API verwenden. Zuerst mit Version ChatGPT-3.5 Der günstigste Bot! Zweite mit Version ChatGPT-4.0 Voll unbegrenzt! Probieren Sie es einfach aus!