Der Traum – und für viele der Albtraum – der künstlichen Intelligenz ist die Steigerung unserer kognitiven Fähigkeiten durch digitale Technologie. Dein Gehirn auf Steroiden, wie einige es ausgedrückt haben. Was aber, wenn die Hauptauswirkung von Systemen wie chatgpt nicht darin besteht, den ohnehin schon intelligenten Geist zu verbessern, sondern stattdessen den kognitiv am wenigsten Begabten dabei zu helfen, sich dem Niveau des Durchschnitts anzunähern? Dieses Szenario, kürzlich diskutiert vom Ökonomen und Schriftsteller Tim Harford impliziert, dass Chatbots eine Art Prothese sein könnten, allerdings eher für Intelligenz als für Wahrnehmung oder Mobilität.

Maßstäbe der menschlichen „Intelligenz“

„Intelligenz“ ist ein heikles Thema in der Psychologie. Es besteht keine Einigkeit darüber, ob es beim Menschen (oder einem anderen Tier) so etwas wie „allgemeine Intelligenz“ gibt. Es scheint jedoch ziemlich klar zu sein, dass es eine Verteilung der kognitiven Fähigkeiten in der menschlichen Bevölkerung gibt. Manche Menschen haben hohe kognitive Fähigkeiten, andere weniger und die meisten liegen im Mittelfeld. (Die Ursachen und Maßnahmen der Verteilung sind komplex, nicht gut verstanden und hier nicht relevant.)

Harford, ein Wirtschaftswissenschaftler, formulierte die Idee von Chatbots als einen kognitiven Nivellierer in wirtschaftlicher Hinsicht. Er stützt sich auf die Geschichte der technologischen Auswirkungen auf berufliche Qualifikationen und argumentiert, dass neue Technologien tendenziell zwei Arten von Auswirkungen haben: Sie können den bereits qualifizierten Arbeitskräften einen Schub geben – was Ökonomen als „kompetenzorientierten technologischen Wandel“ bezeichnen. (Er bezeichnet die Tabellenkalkulation als ein Tool, das von erfahrenen Buchhaltern schnell eingesetzt wurde und ihnen große Vorteile verschaffte.) Technologie kann aber auch geringqualifizierten Arbeitskräften helfen. Harford argumentiert, dass ChatGPT dem letztgenannten Weg folgen könnte.

Chatbots sind unbestreitbar gut darin, einen kohärenten sprachlichen Ausdruck zusammenzustellen. Obwohl sie nicht perfekt sind, können ChatGPT und seine Artgenossen plausible Antworten auf Fragen liefern, von denen viele Menschen sonst keine Ahnung hätten, wie sie sie beantworten sollen. Sie sind bereits gut genug, um für Menschen mit geringeren kognitiven Fähigkeiten von großem Nutzen zu sein. Denken Sie über E-Mail nach. In den meisten Teilen der heutigen wissensbasierten Wirtschaft ist E-Mail die unverzichtbare Währung des täglichen Lebens. Wie sehr würde man seine Berufsaussichten verbessern, ganz zu schweigen von seinem sozialen Netzwerk und seinem Selbstwertgefühl, wenn man mit Hilfe von KI und ihrer tadellosen Grammatik eine fehlerfreie, überzeugende E-Mail verfassen könnte und vielleicht auch wüsste, wann und an wen man sie senden soll Es? Ohne diese Hilfe könnte eine Person die falsche Botschaft senden – oder sie überhaupt nicht senden. Ich glaube, dass Vermarkter dies bald erkennen und die grundlegende Technologie von ChatGPT so verpacken werden, dass sie auf diese Art von Aufgabe zugeschnitten ist.

Aktuelle Chatbots können so gut sein, wie es nur geht

Wenn Chatbots für Menschen mit geringen kognitiven Fähigkeiten nützlich sind, bedeutet dies nicht zwangsläufig, dass sie auch für Menschen mit typischen oder hohen kognitiven Fähigkeiten nützlich sein werden. Wie mittlerweile allgemein bekannt ist, neigen ChatGPT und seinesgleichen dazu, Fakten und Wissen zu „halluzinieren“. Die Entwickler dieser Systeme selbst warnen deutlich davor, wie unzuverlässig sie sein können.

Aktuelle KI-Chatbots sind möglicherweise auch so gut, wie es nur geht. Andere hochgepriesene digitale Technologien wie virtuelle Realität, Kryptowährung und Quantencomputing konnten dem anfänglichen, weltverändernden Hype größtenteils nicht gerecht werden. Ich persönlich bin skeptisch, dass KI, die auf Deep Learning basiert, große Fortschritte machen wird. Wie ich hier bereits dargelegt habe, werden die „Leitplanken“ und die Überprüfung der Fakten, die die Systeme benötigen, um echte Zuverlässigkeit zu erreichen, den gesamten Zweck des maschinellen Lernens zunichte machen, der auf der Idee basiert, dass Maschinen allein durch massives Lernen wesentliche Erkenntnisse über die Welt gewinnen können Aufnahme vergangener Ereignisse. Letztendlich glaube ich, dass die Effizienz des maschinellen Lernens größtenteils durch die Notwendigkeit, Fehler einzeln zu korrigieren, sowie durch die Notwendigkeit einer ständigen Neuschulung angesichts neuer Ereignisse zunichte gemacht wird. Ohne große neue Durchbrüche in der Basistechnologie könnten Menschen mit durchschnittlichen und höheren kognitiven Fähigkeiten in den meisten Situationen kaum von Nutzen sein. Doch die Systeme können bereits als Grundlage für eine kognitive Prothese dienen.

Kognitive Prothetik

Ich möchte es klarstellen: Ich behaupte nicht, dass ein Chatbot die gleiche Intelligenz hat wie eine durchschnittliche Person. Tatsächlich übertrifft ein Mensch mit geringen oder sogar sehr geringen kognitiven Fähigkeiten in fast jeder Hinsicht jedes KI-System bei weitem. Allein der Besitz eines Körpers, in dem das Gehirn untergebracht ist, ermöglicht uns vielfältige Formen des Wissens – Gerüche, Geräusche, motorische Interaktionen, soziale Interaktionen –, die uns alle im Vergleich zu jeder Maschine in eine völlig andere Liga der Intelligenz versetzen. Ich schlage auch nicht vor, dass wir die Forderung nach zuverlässigerer KI aufgeben sollten.

Was ich vorschlage, ist, dass Chatbots dazu beitragen können, typische – und nicht außergewöhnliche – kognitive Fähigkeiten zu ermöglichen, die für das tägliche Leben geeignet sind. Das ist es, was eine Prothese leistet: Sie kommt der normalen Funktion nahe. Ein Chatbot kann Wissenselemente, insbesondere geschriebene Sprache, bereitstellen, die Menschen mit geringeren kognitiven Fähigkeiten dabei helfen können, in der heutigen Welt zurechtzukommen.

Prothesen sind eine gute Metapher für Chatbots, da keine von ihnen in allen Situationen nützlich ist. Beispielsweise muss eine Prothese unter der Dusche entfernt werden. Das Gleiche gilt auch für die kognitive Verbesserung: KI-Vorteile lassen sich schwerer persönlich umsetzen, obwohl ich glaube, dass sich clevere Anpassungen ergeben werden. Zusätzlich zu E-Mails könnten Chatbots leistungsschwachen Schülern auf High-School- und College-Ebene dabei helfen, Misserfolge und Schulabbrüche zu vermeiden – sofern die Gesellschaft dies zulässt.

Mögliche Zukünfte

Die potenziellen Auswirkungen von ChatGPT auf die kognitive Landschaft des Menschen könnten tiefgreifend sein. Verkäufer dieser Systeme könnten räuberisch werden; Diejenigen, die die Vor- und Nachteile eines Chatbots am wenigsten verstehen, könnten dazu manipuliert werden, überteuerte Systeme zu kaufen. Tatsächlich wurden, wie Harford betont, die technischen Vorteile für Geringqualifizierte in der Vergangenheit von Kapitalisten vereinnahmt. Um dies zu verhindern und sicherzustellen, dass jeder, der eine kognitive Prothese anstrebt, dies aus eigenem Antrieb tut, bedarf es strenger Regelungen.

Die psychologischen und sozialen Folgen könnten ebenso folgenreich sein wie die wirtschaftlichen. Wenn die Chatbot-Technologie irgendwie ausreichend in das Selbst integriert ist, wird sie dann Teil der eigenen Identität, wie eine Gliedmaßenprothese? Reicht es aus, dass jemand eine Anfrage stellt, die von einem integrierten Bot beantwortet wird, um das produzierte Wissen als sein Eigentum zu beanspruchen? Ist es legitim, dass jemand mit einer solchen Prothese zum Studium zugelassen wird?

Wir werden vielleicht überrascht sein, wohin uns die KI führt. Nicht um Galaxiengehirne für diejenigen am oberen Ende der Verteilung, sondern um eine Einengung der Verteilung und alles, was damit verbunden sein könnte.