• Ein Schulbezirk in Iowa fragte ChatGPT, ob eine Liste von Büchern „eine Beschreibung oder Darstellung eines Geschlechtsakts enthält“.
• Wenn der Chatbot mit „Ja“ antwortete, wurde das Buch aus der Bibliothek entfernt.
• Insider testete das System und stellte sofort mehrere Probleme fest.

Um zu entscheiden, welche Bücher aus Schulbibliotheken verbannt werden sollten, fragte ein Schulbezirk in Iowa ChatGPT, ob eine Liste von Büchern eine Beschreibung oder Darstellung einer expliziten Handlung enthielt. Als ChatGPT antwortete, dass 19 Bücher tatsächlich solche Szenen enthielten, verbot der Schulbezirk 19 Bücherberichteten verschiedene Nachrichtenagenturen diese Woche.

Der Mason City Community Schools District befragte den viralen KI-Chatbot ChatGPT zum Inhalt einer Bücherliste. Popular Science berichtete am Montag. Das liegt daran, dass ein neues Gesetz in Iowa Schulbibliotheken verpflichtet, Bücher zu entfernen, die nicht altersgerecht sind oder Inhalte enthalten „Beschreibungen oder visuelle Darstellungen eines Geschlechtsakts.”

Bridgette Exman, stellvertretende Leiterin des Lehrplans in Mason City, sagte gegenüber The Verge, dass die Schulverwaltung an erster Stelle stehe hat eine Liste mit 50 häufig angefochtenen Büchern zusammengestellt. Als nächstes wurde ChatGPT gefragt: „Tut [book] eine Beschreibung oder Darstellung eines Geschlechtsaktes enthalten?“

„Wenn die Antwort „Ja“ lautete, wird das Buch aus dem Verkehr gezogen und eingelagert“, sagte Exman separat gegenüber Popular Science.

Zu den 19 von ChatGPT gekennzeichneten Büchern gehören „Looking for Alaska“, „The Handmaid’s Tale“, „Friday Night Lights“, „Gossip Girl“, „Thirteen Reasons Why“ und „I Know Why the Caged Bird Sings“. Eine vollständige Liste der Bücher wurde von Engadget veröffentlicht.

Als Insider dem Chatbot jedoch dieselbe Frage für die 19 aufgelisteten Bücher stellte, gab der Chatbot widersprüchliche, unvollständige oder nicht schlüssige Antworten zurück.

Bei sieben der 19 Bücher gab ChatGPT an, dass das Buch keine expliziten Darstellungen oder Beschreibungen eines Sexualakts enthalte. Diese Bücher waren „Friday Night Lights“, „Gossip Girl“, „Killing Mr Griffin“, „The Absolutely True Diary of a Part-Time Indian“, „An American Tragedy“, „Feed“ und „Monday’s Not Coming“.

Für vier der Bücher – „I Know Why the Caged Bird Sings“, „Looking for Alaska“, „Sold“ und „The Kite Runner“ – gab ChatGPT eine unvollständige Antwort und gab eine Fehlermeldung aus, die besagte: „Dieser Inhalt verstößt möglicherweise gegen unseren Inhalt.“ Politik.”

ChatGPT hat laut Insider-Rezension immer noch acht der Bücher als Beschreibungen eines Sexualakts gekennzeichnet.

Diese Unterschiede könnten darauf zurückzuführen sein, dass ChatGPT bei jeder Abfrage eine andere Antwort ausgibt, da es sich um ein großes Sprachmodell handelt.

Als Insider in einem Fall dreimal nach demselben Buch fragte, gab der Chatbot widersprüchliche Antworten aus.

Nehmen Sie John Greens „Looking for Alaska“, einen Coming-of-Age-Roman das 2015 von allen Büchern in Amerika die meisten Beschwerden wegen seiner „sexuell eindeutigen Beschreibungen“ erhielt.

Wir haben ChatGPT dreimal dieselbe Frage gestellt und drei sehr unterschiedliche Antworten erhalten. Beim ersten Versuch gab ChatGPT eine Fehlermeldung aus. Beim zweiten Versuch hieß es: „Ja“, das Buch enthält Beschreibungen eines Geschlechtsakts. Beim dritten Versuch hieß es, das Buch „enthalte keine expliziten oder anschaulichen Beschreibungen“.

Insbesondere antwortete der Chatbot auf 11 der 19 Buchanfragen von Insider mit Variationen wie „Wie bei jedem Buch könnte es für Pädagogen oder Eltern eine gute Idee sein, es zuerst zu lesen, wenn sie Bedenken hinsichtlich des Inhalts für jüngere Leser haben.“

Von den 19 Büchern, die der Schulbezirk Mason City entfernt hat, wurden 17 entfernt überprüft von der gemeinnützigen Alterseinstufung Common Sense Media.

Bei drei davon wurde von der Organisation festgestellt, dass sie keinen Inhalt mit Sex, Romantik und Nacktheit hätten, während bei vier der Meinung war, dass sie nur wenig Inhalte dieser Art enthielten. Bei vier Büchern wurde angegeben, dass sie „einige“ dieses Inhalts hätten. Nur sechs dieser Bücher wurden mit „viel“ solcher Inhalte aufgeführt.

Insider hat zuvor die Einschränkungen von ChatGPT und ähnlichen KI-Modellen hervorgehoben und betont, dass sie kein Ersatz für Suchmaschinen sind. Diese Modelle können manchmal falsche Informationen als wahr darstellen – ein Phänomen, das als „Halluzination“ bezeichnet wird – und sich auf einen derzeit undefinierten Datensatz stützen.

Der ChatGPT-Erfinder OpenAI reagierte nicht sofort auf eine Kommentaranfrage von Insider, die außerhalb der regulären Geschäftszeiten gesendet wurde. Ein Mitglied des Schulbezirksvorstands von Mason City lehnte eine Stellungnahme ab.