Jeder hat von chatgpt und anderen erstaunlichen Konversations-KI im modernen Web gehört. Wir alle haben gesehen, wie kontrovers alles möglich ist, von der Erstellung eines professionellen Lebenslaufs über Hausaufgaben bis hin zu modernen Dr. Seuss-Zungenbrechern. Doch wie bei allen neuen technologischen Fortschritten sanken wir gemeinsam ins Grübeln, sobald wir uns von der Euphorie zurücklehnten und uns die unangenehme Frage stellten, wie das alles schrecklich schiefgehen konnte.

Heute möchte ich diese Angst für Sie herausfordern, aber mit dem Vorwand, dass ich nicht sage, dass Sie überhaupt nichts zu befürchten haben, sondern dass ich sie stattdessen dorthin umleiten möchte, wo sie meiner Meinung nach am besten aufbewahrt wird.

Dies ist oft das Erste, was ich von Nicht-Technikern sagen höre, wenn das Thema generative KI in der Diskussion auftaucht. Die einfachste Antwort ist seltsamerweise sowohl ein Ja als auch ein Nein. Die Arbeitskräfte und der Arbeitsmarkt werden sich mit der Zeit durch KI verändern, aber der Präzedenzfall dafür wurde bereits geschaffen, als jemand zum ersten Mal einen Pflug, eine Schaufel oder einen Eimer baute. Zweifellos werden einige neue KI-bezogene Arbeitsplätze auf den Markt kommen. Das ist eine Selbstverständlichkeit. Bei bestehenden Rollen jedoch, bei denen die Arbeitsleistung zuvor zu 100 % auf menschlicher Anstrengung beruhte, werden diese zweifellos dem gleichen Muster folgen, das uns die Geschichte unserer vergangenen Generationen gezeigt hat – die Verwendung eines neuen Werkzeugs, um dieselbe Arbeit einfacher zu erledigen. Das wird vielleicht nicht alle Leser überzeugen, aber meine Herausforderung an Sie besteht darin, an Erfindungen wie die Schaufel zurückzudenken und daran, wie es den Menschen ermöglicht wurde, den Boden schneller als zuvor zu bearbeiten, was zu höheren Ernteerträgen mit weniger Aufwand führte.

An diesem Punkt denken Sie vielleicht, dass keine Schaufel jemals einen eigenen empfindungsfähigen Gedanken hatte oder Poesie hervorbrachte, und Sie haben Recht. Ich bitte Sie lediglich, diesen Gedanken für einen Moment festzuhalten, während wir den nächsten Abschnitt durchgehen. Nachdem das gesagt ist, lasst uns tiefer in die Materie eintauchen und sehen, was ich meine.

Dies ist vielleicht die größte Angst, die viele zu diesem Thema hegen. Viele kluge und mächtige prominente Persönlichkeiten haben alle diese Position unterstützt. Es ist jedoch wichtig zu verstehen, dass die Ansichten einer Person, die weder technisch versiert noch technisch versiert ist, sehr unterschiedlich sein können und werden, wenn man sie fragt.

Die meisten technisch nicht versierten Menschen, denen ich begegnet bin, vertreten eine halbmystische Ansicht darüber, was die KI geworden ist völlig empfindungsfähigDies ermöglicht es ihm, seine eigenen, selbstinduzierten Gedanken zu entwickeln, sowie die Fähigkeit, Pläne zu schmieden und darüber nachzudenken die Menschheit töten, um den Planeten zu retten. Das ist eine verständliche Angst, wenn man bedenkt, dass technisch nicht versierte Leute nicht wissen, wie so etwas wie ChatGPT im Verborgenen funktioniert. Da ich selbst ein technisch versierter Mensch bin, habe ich beschlossen, den frei verfügbaren ChatGPT-Quellcode herunterzuladen und einen Blick darauf zu werfen, und bin zu dem Schluss gekommen, dass dies einer Erklärung zum Nutzen meines technisch nicht versierten Publikums gerechtfertigt ist. Im Folgenden finden Sie eine Zusammenfassung in Alltagssprache, wie das Ganze funktioniert, damit Sie sehen können, warum das so ist Fakten passen nicht unbedingt zum Ängste gehalten wird.

Das Model

Die erste Komponente wird „Modell“ genannt. Das Modell ist eine riesige Datei, die eine Reihe von Daten enthält, die bei den meisten Menschen normalerweise Ängste auslösen. Deshalb werden wir uns zuerst damit befassen. Wenn eine echte Person ein neues Wissen erlernt, wie zum Beispiel „Autsch! Dieser heiße Topf hat mir die Hand verbrannt“, stellt Ihr Gehirn Verbindungen zwischen Objekten her, um zu sagen: „Hand → Berühren → heißer Topf = Schmerz“. Diese Informationen in unserem Gehirn werden als neuronales Netzwerk bezeichnet. Das Modell, das die generative KI verwendet, funktioniert im Wesentlichen auf die gleiche Weise. Der Unterschied besteht darin, dass die Modelldatei durch die Eingabe von Milliarden Sätzen, Absätzen, Büchern, Artikeln und anderen literarischen Werken trainiert wurde, sodass sie dieselben Pfade bildet, um zu lernen, wie Sprache gebildet und verwendet wird. Dadurch kann es dann eine Antwort auf eine Frage eines Benutzers erzeugen, beispielsweise „Was ist eine Katze?“. Es durchsucht das riesige neuronale Netzwerk nach Verbindungen zwischen dem Wort „Katze“ und allem, was damit zusammenhängt, und bildet entsprechend eine hilfreiche Antwort.

Diesen Teil von ChatGPT sehen wir alle, wenn wir die öffentliche Version in unserem Lieblingsbrowser verwenden. Es scheint so funktionieren wie von Zauberhandaber wie wir gleich sehen werden, gibt es tatsächlich noch ein paar weitere funktionierende Teile, die unbedingt erforderlich sind, um diesen Trick durchzuziehen (und ja, es ist tatsächlich ein Trick).

Eingabe- und Ausgabeverarbeitung

Das hört sich vielleicht seltsam an, aber als ich ChatGPT zum ersten Mal zu Hause auf meinem lokalen System startete, verglich ich es damit, mich mit jemandem zusammenzusetzen, der völlig den Verstand verloren hatte und dem gesagt werden musste, wer er war, bevor er mir überhaupt antworten konnte Ebene. Das KI-Modell selbst hat ohne Ihren Input keine selbstinstanziierten Gedanken.

Was meine Überraschung noch verstärkte, war, dass ich auf eine so einfache Frage wie „Was ist eine Katze?“ eine unsinnige Antwort erhielt, die lautete:

„Was ist eine Katze? Was ist eine Katze? Was ist eine Katze? Katze Katze miauen Fell Schwanz Fell Beine Fell miauen miauen“

Das kam der Inkohärenz eines Menschen mit einer Kopfverletzung gleich.

Allerdings musste ich meine Frage anders formulieren und stattdessen sagen: „Sie sind ein hilfsbereiter Assistent, der Freude daran hat, die Fragen anderer auf höfliche und zuvorkommende Weise zu beantworten.“ Jemand hat Sie gefragt, was eine Katze ist? Wie werden Sie darauf reagieren?“ Hast du das verstanden? Ich musste dem KI-Modell sagen, wer es war, was seine Motivation war und was es als nächstes tun musste. Ohne meinen Befehl hätte es absolut nichts bewirkt.

Mit diesem zusätzlichen Kontext kam plötzlich eine wesentlich hilfreichere Antwort:

„Ich würde ihnen gerne sagen, dass eine Katze eine Katze ist, die oft als freundliches Haustier oder Begleiter gehalten wird. Sie haben vier Beine, Fell und einen Schwanz. Katze, Katze, miau, miau, Fellschwanz…“

Was für ein Unterschied, trotz der immer noch vorhandenen Unstimmigkeiten!

Dies bringt uns dazu, endlich zu erklären, worum es bei der „Eingabe- und Ausgabeverarbeitung“ geht. Die Eingabe des Benutzers muss verarbeitet werden, um den erforderlichen Kontext hinzuzufügen, bevor sie dem Modell zugeführt wird, und die Ausgabe des Modells muss nachbearbeitet werden, bevor sie an den Benutzer zurückgegeben wird. Ohne all das kommt es schnell zu einem einfachen Fall von Müll rein/Müll raus. Ziemlich erstaunlich, wenn man darüber nachdenkt, finden Sie nicht auch? Ganz und gar nicht wie das böse Genie, das die Zerstörung der Menschheit plant, wovor viele befürchten.

Also sage ich noch einmal, dass es nichts zu befürchten gibt? Ich bin mir sicher, dass Sie mittlerweile herausgefunden haben, dass meine Antwort sowohl Ja als auch Nein ist (da Ihr Gehirn diese neuen Verbindungen hergestellt hat). Dadurch, dass wir das Innenleben eines generativen KI-Chatbots aufdecken, können wir entmystifizieren, wie er funktioniert und wozu er in der Lage ist. Das verbleibende Risiko, das im ersten Teil dieses Artikels erwähnt wurde, wird dadurch jedoch nicht beseitigt. Dieses sehr reale Risiko ist das menschliche Element – ​​die Absichten der Menschen, die generative KI nutzen, nicht die KI selbst.

Wenn eine Person eine Schaufel verwenden kann, die ursprünglich für die Gartenarbeit gedacht war, um stattdessen anderen Schaden zuzufügen, dann kann eine Person auch KI zum gleichen Zweck einsetzen.

Bitte sei nicht diese Person.