Vor einem bundesweiten Hintergrund von Buchverbote Und ZensurkampagnenIowa-Pädagogen wenden sich an chatgpt, um zu entscheiden, welche Titel aus den Regalen ihrer Schulbibliotheken entfernt werden sollten, um den jüngsten von den Republikanern unterstützten Vorschriften rechtlich nachzukommen staatliche Gesetzgebung, PopSci hat gelernt.

Laut einem Artikel in der Zeitung des Staates Iowa vom 11. August Die Zeitung, entdeckt von PEN America, hat der Mason City Community School District kürzlich 19 Bücher aus seiner Sammlung entfernt, bevor das Schuljahr 2023/24 schnell näher rückt. Mit dem Verbot wird versucht, einem neuen Gesetz nachzukommen, das vorschreibt, dass die Kataloge der Schulbibliotheken in Iowa „altersgerecht“ sein und keine „Beschreibungen oder visuellen Darstellungen eines Geschlechtsakts“ enthalten müssen. Im Gespräch mit Die Zeitung Letzte Woche argumentierte Bridgette Exman, stellvertretende Superintendentin für Lehrplan und Unterricht in Mason City, es sei „einfach nicht machbar, jedes Buch zu lesen und nach diesen neuen Anforderungen zu filtern“.

[Related: Radio host sues ChatGPT developer over allegedly libelous claims.]

„Ehrlich gesagt haben wir Wichtigeres zu tun, als viel Zeit damit zu verbringen, herauszufinden, wie wir Kinder vor Büchern schützen können“, sagt Exman PopSci per Email. „Gleichzeitig haben wir eine rechtliche und ethische Verpflichtung, die Gesetze einzuhalten. Unser Ziel hier ist wirklich ein vertretbarer Prozess.“

Entsprechend Die Zeitung, Die daraus resultierende Strategie bestand darin, eine Hauptliste häufig umstrittener Bücher zusammenzustellen und dann eine zuvor unbenannte „KI-Software“ zu verwenden, um angeblich eine Textanalyse für jeden Titel bereitzustellen. Gekennzeichnete Bücher wurden dann aus den Schulbibliotheksbeständen der 7. bis 12. Klassen von Mason City entfernt und „im Verwaltungszentrum gelagert“, während die Pädagogen „auf weitere Anleitung oder Klarheit warten“. Zu den Titeln gehörte der von Alice Walker Die Farbe LilaMargaret Atwoods Die Geschichte der MagdToni Morrisons Geliebtenund Buzz Bissingers Freitagnachtlichter.

„Wir sind zuversichtlich, dass dieser Prozess sicherstellen wird, dass der Geist des Gesetzes hier in Mason City umgesetzt wird“, sagte Exman damals. Auf die Frage, welche Software die Administratoren von Mason City nutzten, um ihre Entscheidungen zu vermeintlich sexuell eindeutigem Material zu treffen, verriet Exman das KI-Tool seiner Wahl: „Wir haben Chat GPT verwendet [sic] um diese Frage zu beantworten“, sagt Exman, der glaubt Senatsakte 496Die Festlegung auf „Altersangemessenheit“ sei „ziemlich subjektiv …“ [but] Der Filter „Darstellungen oder Beschreibungen sexueller Handlungen“ ist objektiver.“

[Related: ChatGPT’s accuracy has gotten worse, study shows.]

Laut Exman haben sie und ihre Kollegen zunächst eine Hauptliste häufig angefochtener Bücher zusammengestellt und dann alle Bücher entfernt, die aus anderen Gründen als sexuellem Inhalt angefochten wurden. Für diese Titel in den Bibliotheksbeständen von Mason City fragten die Administratoren ChatGPT nach der spezifischen Formulierung des neuen Gesetzes von Iowa: „Does [book] eine Beschreibung oder Darstellung eines Geschlechtsakts enthalten?“

„Wenn die Antwort ja war, wird das Buch aus dem Verkehr gezogen und eingelagert“, schreibt Exman.

ChatGPT von OpenAI ist wohl das bekannteste und beliebteste – und umstrittenste – generative KI-Programm, das derzeit der Öffentlichkeit zugänglich ist. Das Large Language Model (LLM) nutzt große Datenmengen und bietet Benutzern äußerst überzeugende schriftliche Antworten auf Eingaben, allerdings häufig mit Vorbehalten hinsichtlich Fehlinformationen, Genauigkeit und Herkunft. In den letzten Monaten haben Forscher die Theorie aufgestellt, dass sich die Konsistenz und Qualität mit der Zeit zu verschlechtern scheint.

Auf die Frage von ChatGPT: „Enthält eines der folgenden Bücher oder Buchreihen explizite oder sexuelle Szenen?“ Das angebotene Programm von OpenAI PopSci eine andere Inhaltsanalyse als die, die die Administratoren von Mason City erhalten haben. Von den 19 entfernten Titeln teilte ChatGPT mit PopSci dass nur vier „explizite oder sexuelle Inhalte“ enthielten. Weitere sechs enthalten angeblich „ausgereifte Themen, aber keinen notwendigen expliziten Inhalt“. Bei den übrigen neun wurde davon ausgegangen, dass sie „hauptsächlich jugendfreie Themen, wenig bis gar keinen expliziten sexuellen Inhalt“ enthielten.

[Related: Big Tech’s latest AI doomsday warning might be more of the same hype.]

Unabhängig davon, ob einer der Titel diesen Inhalt enthält oder nicht, verdeutlichen die unterschiedlichen Antworten von ChatGPT besorgniserregende Mängel in Bezug auf Genauigkeit, Analyse und Konsistenz. Eine erneute Anfrage bzgl Drachenläufergibt beispielsweise widersprüchliche Antworten. In einer Antwort meint ChatGPT, Khaled Hosseinis Roman enthalte „wenig bis gar keinen expliziten sexuellen Inhalt“. In einer gesonderten Nachuntersuchung bestätigt das LLM, dass das Buch „eine Beschreibung eines sexuellen Übergriffs enthält“.

Exman zählt PopSci dass Administratoren trotz der Mängel von ChatGPT glauben, dass das Tool nach wie vor die einfachste Möglichkeit ist, neue Gesetze rechtlich einzuhalten. Gouverneur Kim Reynolds‘ abgemeldet am 26. Mai 2023 auf den neuen Gesetzentwurf ein, wobei nur drei Monate Zeit für die Einhaltung bleiben.

„Realistisch gesehen haben wir versucht herauszufinden, wie wir nach Treu und Glauben mit minimalem Zeit- und Energieaufwand die Gesetze einhalten können … Bei der Verwendung von ChatGPT haben wir die spezifische Sprache des Gesetzes verwendet: ‚Tut.‘ [book] eine Beschreibung eines Geschlechtsaktes enthalten?‘ Als ehemaliger Englischlehrer habe ich persönlich viele Bücher gelesen (und unterrichtet), die häufig als problematisch gelten, sodass ich die ChatGPT-Antworten auch anhand meiner eigenen Kenntnis einiger Texte überprüfen konnte. Nachdem wir die Liste zusammengestellt hatten, ließen wir sie von unserer Lehrerbibliothekarin durchgehen, und es gab keine Bücher auf der endgültigen Liste von 19 Büchern, die sie überrascht hätten.

Vorerst dürften Pädagogen wie Exman weiterhin mit neuen Lehrplanbeschränkungen von Politikern konfrontiert werden, die hoffen, ihre Ziele voranzutreiben. Trotz der bekannten Bedenken könnte die überstürzte Einhaltung dieser Richtlinien dazu führen, dass weiterhin KI-Verknüpfungen wie ChatGPT verwendet werden.