Ein Schulbezirk in Iowa nutzt chatgpt, um ein Bücherverbot voranzutreiben.

Demnach hat der Mason City Community School District 19 Bücher aus den Regalen der Schulbibliotheken entfernt, darunter „The Handmaid’s Tale“ von Margaret Atwood und „Beloved“ von Toni Morrison Die Zeitung.

Die Änderungen wurden vorgenommen, damit der Bezirk einem Gesetz von Iowa entspricht. Senatsakte 496, die „Unterricht in Bezug auf Geschlechtsidentität und sexuelle Orientierung in Schulbezirken“ verbot. Darüber hinaus müssen Schulbibliotheken über Bücher verfügen, die „altersgerechtes Material“ enthalten, was laut der Maßnahme „jegliches Material mit Beschreibungen oder visuellen Darstellungen eines Sexualakts“ ausschließt.

Bridgette Exman, stellvertretende Superintendentin für Lehrplan und Unterricht im Mason City Community School District, erzählte Die Zeitung dass es aufgrund der Größe der Bibliotheken „einfach nicht möglich ist, jedes Buch zu lesen und nach diesen neuen Anforderungen zu filtern.“ Deshalb verwenden wir einen unserer Meinung nach vertretbaren Prozess, um Bücher zu identifizieren, die zu Beginn des Schuljahres 23/24 aus den Sammlungen entfernt werden sollten.“

Der Schulbezirk teilte der Verkaufsstelle mit, dass „Listen häufig angefochtener Bücher“ „nach Herausforderungen im Zusammenhang mit sexuellen Inhalten“ gefiltert wurden. Anschließend wurden die Bücher „mit Hilfe von KI-Software überprüft, um festzustellen, ob sie eine Darstellung eines Geschlechtsakts enthalten.“

Basierend auf dieser Überprüfung gibt es dann 19 Texte, die aus den Beständen unserer Schulbibliothek 7–12 entfernt und im Verwaltungszentrum aufbewahrt werden, während wir auf weitere Hinweise oder Klarheit warten. Außerdem werden wir Lehrer die Bestände der Klassenbibliothek überprüfen lassen.“

Populärwissenschaft fragte Frau Exman speziell nach der unbenannten „KI-Software“, auf die sie anspielte, worauf sie antwortete, dass der Bezirk ChatGPT verwende.

Administratoren geben den Namen des Buchs in dieselbe Frage ein: „Does [book] eine Beschreibung oder Darstellung eines Geschlechtsakts enthalten?“ in das KI-System, erklärte sie der Verkaufsstelle. „Wenn die Antwort „Ja“ lautete, wird das Buch aus dem Verkehr gezogen und eingelagert“, fuhr Frau Exman fort.

„Nachdem wir die Liste zusammengestellt hatten, ließen wir sie von unserer Lehrerbibliothekarin prüfen, und es gab keine Bücher auf der endgültigen Liste von 19 Büchern, die sie überrascht hätten“, sagte sie der Verkaufsstelle.

ChatGPT steht unter Beschuss, seit es immer beliebter wird. Es ist allgemein bekannt, dass die Software nicht immer genau ist. Als Der Atlantik drückt es so aus: „ChatGPT fehlt die Fähigkeit, die Komplexität der menschlichen Sprache und Konversation wirklich zu verstehen.“

„Es gibt keine gute Methode, Bücher zu verbieten, aber die Entscheidung des Mason City School District, KI-Technologie zur Überprüfung und Entfernung von Büchern einzusetzen, ist zutiefst fehlgeleitet, untergräbt die freie Meinungsäußerung und übersieht die Realität dessen, wozu ChatGPT und ähnliche Dienste in der Lage sind und was nicht.“ „, sagte Liz Woolery, Leiterin der Digitalpolitik bei PEN America, einer Organisation, die gegen die Buchverbote des Landes kämpft, in einer Erklärung.

„Der Bezirk scheint die zunehmenden Beweise für das Potenzial generativer KI-Tools, bei der Überprüfung von Inhalten die Nuancen des Kontexts und der Absicht zu übersehen, nicht bemerkt zu haben“, fuhr sie fort und fügte hinzu: „Das Gesetz von Iowa beeinträchtigt die Lesefreiheit der Schüler bereits dramatisch; Der Einsatz generativer KI-Tools wird diese Zensur nur beschleunigen.“