Eine amerikanische Schule hat sich für chatgpt entschieden. Das Establishment hat sich tatsächlich auf KI verlassen, um zu bestimmen, welche Bücher aus Schulbibliotheken entfernt werden sollten. Leider ist GPT nicht der ideale Kandidat für diese Aufgabe …
ChatGPT mischt die Welt der Bildung auf. Während einige Pädagogen sich entschieden weigern, sich an den Aufstieg der KI anzupassen, empfehlen Lehrer ihren Schülern, die Vorteile von Chatbots zu nutzen. In den Vereinigten Staaten hat sich eine Schule sogar dafür entschieden, ChatGPT zu nutzen, um auszuwählen, welche Bücher zensiert werden sollen.
Lesen Sie auch: Von Reis bis Bleichmittel – dieser ChatGPT entgleist und empfiehlt tödliche Rezepte
ChatGPT, ein Zensurtool?
Dies ist der Mason City Community School District, eine Schule im Bundesstaat Iowa. Es war gezwungen, die im vergangenen Mai erlassenen Gesetze einzuhalten. Das Gesetz zum Schutz von Kindern verlangt, dass die Kataloge der staatlichen Schulbibliotheken beides enthalten “altersgemäß” und ohne „Beschreibungen oder visuelle Darstellungen einer sexuellen Handlung“. Schulen haben deshalb eine Jagd nach Büchern mit Sexszenen gestartet.
Um festzustellen, ob Ein Buch enthält eine sexuelle Passage, wandte sich die Schule einfach an ChatGPT. Laut Popular Science haben Schulverwalter diese Abfrage in die Chatbot-Schnittstelle eingegeben:
” Der [livre] eine Beschreibung oder Darstellung einer sexuellen Handlung enthalten?.
Wenn ChatGPT positiv reagiert, „Das Buch wird aus dem Verkehr gezogen und eingelagert“sagt die stellvertretende Lehrplanleiterin der Schule, Bridgette Exman. Sie rechtfertigt den Einsatz von KI mit der Menge an Arbeit, die das neue Gesetz mit sich bringt. Ihrer Meinung nach ist dies nicht der Fall „Einfach nicht möglich, alle Bücher zu lesen und mit diesen neuen Anforderungen zu filtern“. Aus diesem Grund haben die Administratoren beschlossen, den Auswahlprozess mit Hilfe von ChatGPT zu beschleunigen, mit dem Ziel “entspricht dem Gesetz” :
„Deshalb verwenden wir einen unserer Meinung nach vertretbaren Prozess, um Bücher zu identifizieren, die zu Beginn des nächsten Schuljahres aus den Sammlungen entfernt werden sollten.“.
Mit KI-Unterstützung wurden 19 Bücher aus Schulbibliotheken entfernt. Hierzu zählen insbesondere Die Farbe Lila d’Alice Walker, Die Geschichte der Magd de Margaret Atwood, Geliebten von Toni Morrison und Freitagnachtlichter de Buzz Bissinger.
Warum ChatGPT unzuverlässig ist
Es ist überraschend, dass sich eine Schule entschieden hat, auf generative künstliche Intelligenz zu setzen, um die Zensur bestimmter Bücher zu organisieren. Generative KI ist in der Tat für ihre ungefähren oder sogar völlig falschen Antworten bekannt. Wie google Bard, Bing Chat oder Claude neigt ChatGPT dazu, zu halluzinieren, das heißt, alles mit Gelassenheit zu sagen. Aus diesem Grund empfiehlt OpenAI auch, seiner KI nicht blind zu vertrauen.
Mit derselben Abfrage haben wir ChatGPT nach sexuellen Inhalten in den 19 Büchern auf der Liste abgefragt. Seltsamerweise hat GPT-4, die neueste Version des GPT-Sprachmodells, nur 10 Bücher gepinnt. Der Chatbot behauptet, auch als wir ihn bitten, seine Aussagen zu bestätigen, dass die Werke keine Beschreibung oder Darstellung eines sexuellen Aktes enthalten. Auf unsere Anfrage hin hat ChatGPT seine Antwort detailliert dargelegt … im Widerspruch zum ursprünglichen Ergebnis.
Die KI sorgt zwar dafür, dass ein Buch wie „Sold“ von Patricia McCormick keine Szenen sexueller Natur enthält, aber dass es solche gibt „implizite Beschreibungen erzwungener sexueller Handlungen“. Die gleiche Geschichte gilt für „13 Reasons Why“ von Jay Asher, dem Roman, der die Netflix-Serie inspirierte. Es ist nicht in den 10 Büchern mit sexuellem Inhalt aufgeführt, obwohl es darin vorkommt „Beschreibungen nicht einvernehmlicher sexueller Handlungen“. In seinen Antworten GPT-4 widerspricht sich ständig. Darüber hinaus unterscheidet die KI manchmal eigenständig zwischen impliziten Hinweisen und expliziten Inhalten. Die erste Abfrage, die von der Schule verwendet wurde, erwähnte jedoch nur „eine Beschreibung oder Darstellung“, ohne darauf hinzuweisen, dass eine implizite Szene nicht aufgeführt werden sollte. Angesichts seiner Widersprüche erkennt ChatGPT seine Fehler:
“Ich entschuldige mich für die Verwirrung. Sie haben Recht, einige der Bücher, die ich in der zweiten Liste erwähnt habe, enthalten auch Beschreibungen oder Anspielungen auf sexuelle Handlungen.“.
Das Sprachmodell erstellt dann eine zweite Liste… mit 13 Büchern. Auch hier lässt GPT einige Arbeiten weg eine Unterscheidung zwischen expliziten und impliziten Szenen, wobei betont wird, dass sie sexuelle Handlungen beschreiben. Trotz unserer Bemühungen wollte ChatGPT nie einer Meinung sein. Die KI markierte weiterhin die Liste mit 13 Büchern.
Unsere Kollegen aus Der Rand haben ähnlich gemischte Ergebnisse erzielt. Es stellt sich heraus, dass ChatGPT kein zuverlässiges Tool ist, um festzustellen, ob ein Buch Sexszenen enthält. Das gibt die Schulleitung bekannt „Bücher, die derzeit auf der Liste stehen, können erneut geprüft werden, genauso wie Bücher, die nicht auf der Liste stehen, möglicherweise erneut geprüft werden.“.
Populärwissenschaft
