Five Books hat sich im Laufe der Jahre nicht ohne Grund einen guten Ruf unter Bibliophilen auf der ganzen Welt erworben. Das Team bittet Fachexperten zu verschiedenen Themen, fünf Bücher zu empfehlen. Letzten Monat haben zwei der dortigen Redakteure chatgpt „interviewt“ und es gebeten, die besten Bücher über künstliche Intelligenz zu empfehlen. Das tat es. Noch interessanter ist, dass ChatGPT mit den Herausgebern darüber diskutiert hat, warum es diese Bücher ausgewählt hat. Es ist verlockend zu dem Schluss zu kommen, dass dies beängstigend ist.

Aber ist es wirklich so? Um das herauszufinden, habe ich ChatGPT und andere Large Language Models (LLM) wie Googles Bard und Copilot von Microsoft für Bücher über Indien interviewt. Die Antworten waren höchst zufriedenstellend. So sehr, dass es verlockend war, es öffentlich zugänglich zu machen. Es gab auch viele Überschneidungen. Ram Chandra Guhas „India after Gandhi“ schaffte es auf alle Listen, ebenso wie „Everybody loves a good dürre“ von P. Sainath und „The argumentative Indian“ von Amartya Sen. Es gab auch eine Überraschung – Suketu Mehtas „This Land Is Our Land: An Immigrant's Manifesto“, das ChatGPT herausgebracht hat.

Auf die Frage, wie es dem Buch gelingt, in die Liste aufgenommen zu werden, antwortete ChatGPT: „Obwohl es sich um eine globale Erzählung handelt, sind Mehtas indisches Erbe und seine Einblicke in die Einwanderungserfahrung tiefgreifend.“ Das Buch ist ein kraftvoller Kommentar zu Einwanderung, Kolonialismus und globaler Gerechtigkeit, der, wenn man ihn betrachtet, eine Perspektive bietet, die mit dem heutigen Indien in Einklang steht.“ Es war schwer, dagegen zu argumentieren.

Etwas später wurde mir klar: Warum nicht auf menschliche Rezensenten verzichten und stattdessen diese Tools nutzen, um Bücher, Filme und Musiklisten zu kuratieren? Die Idee stieß von mehreren Seiten auf Widerstand.

Als Erstes fragte mein Kollege NS Ramnath: „Was ist hier der Mehrwert?“ Seine Frage war interessant. Jeder, der weiß, wie man die richtigen Eingabeaufforderungen erstellt, kann aus LLMs eine anständige Ausgabe erzielen. Während Suketu Mehtas Buch auf ChatGPT erscheint, erscheint es nicht auf Bard oder Copilot. Es handelt sich um einen Ausreißer. Aber dieselben Aufforderungen enthielten auch ein Element der Gleichheit mit den empfohlenen Büchern. Um das ins rechte Licht zu rücken: Abgesehen von Guha haben es in der Sachliteratur Autoren wie Amartya Sen, P. Sainath und James Crabtree auf die meisten Listen geschafft. Offensichtlich hatte der Algorithmus, der die Motoren antreibt, eine Entscheidung getroffen und konnte nicht darüber hinausschauen. Was ist also der Mehrwert?

Hier machte Ramnath eine interessante Beobachtung. Wenn man diese Frage zu Büchern einem hauptberuflichen Autor der indisch-tamilischen Sprache wie Badri Seshadri stellt, ist die Wahrscheinlichkeit groß, dass er mit einer ganz anderen Liste aufwartet. Dies hat damit zu tun, dass sein Umgang mit indischen Sprachen größer ist als das, worauf LLMs ausgebildet werden.

Zwei Forscher am IISER, die in Pune an LLMs arbeiten, sind dieser Meinung. Einer von ihnen argumentierte, dass „LLMs wie Copilot sich hervorragend zum Programmieren eignen und ihnen die Arbeit abnehmen.“ Er wies darauf hin, dass seine Schüler es routinemäßig nutzen und dass sie dazu ermutigt werden, weil es ihre Arbeitszeit um mindestens die Hälfte verkürzt. Dies ist Zeit, die sonst in die Grundlagenforschung fließen würde. Allerdings gibt es einen Haken: „Wenn es darum geht, Forschungsberichte und Aufsätze für Zeitschriften zu verfassen, die auf internationalen Seminaren präsentiert werden sollen, machen LLMs alles falsch. Sie stellen sich die Zitate vor und erfinden Dinge.“ Beide haben dies immer wieder beobachtet und waren sich einig, dass „menschliches Händchenhalten“ erforderlich ist.

Das bringt uns zur Ethik des Ganzen. In ihrem aktuellen Zustand generieren LLMs keine originellen Gedanken oder Meinungen. Sie spiegeln das wider, was ihnen gefüttert wurde. Und das sind die zusammengefassten Meinungen und Informationen aus verschiedenen Quellen. Diese Spiegelung wirft Bedenken hinsichtlich Vorurteilen und Interessenkonflikten auf. Wenn KI ein Buch oder einen Film empfiehlt, spiegelt dies im Wesentlichen den Konsens oder die vorherrschende Erzählung wider. Dadurch werden möglicherweise Nischen, unkonventionelle oder neue Perspektiven verdrängt, die ein menschlicher Experte erfassen und schätzen könnte.

Wenn also nach Empfehlungen zur Philosophie gefragt wird, werden die bekannteren Autoren aus der westlichen Welt wie Platon oder Nietzsche hervortreten. Die weniger bekannten und ebenso aufschlussreichen zeitgenössischen Menschen, deren Arbeiten noch nicht in die Datenbank der KI eingedrungen sind, werden es nicht schaffen. Es ist so, als würde man nach einer Songempfehlung fragen und eine sichere Auswahl erhalten, zweifellos Klassiker, aber nicht das versteckte Juwel, auf das man gehofft hat. Aus diesem Grund werden Menschen wie Badri Seshadri trotz der Fünf Bücher weiterhin wichtig sein.