Lehrer am Tauranga Boys' College können die künstliche Intelligenz von ChatGPT nutzen, um Kommentare zu Schulberichten zu generieren.

Ein Hochschuldokument – ​​erhalten von der Bucht der Fülle und mit dem Titel „2023 Senior End-Of-Year Reports“ – spricht Fachlehrer über die Möglichkeit des Einsatzes des Chatbots mit künstlicher Intelligenz an.

„Sie können gerne das integrierte ChatGPT nutzen, das einen Kommentar basierend auf Leistung, Lernverhalten und Anwesenheit generiert“, heißt es in dem Dokument.

„Sie MÜSSEN diese jedoch sorgfältig prüfen und sicherstellen, dass die Informationen korrekt sind, britisches Englisch geschrieben sind und nicht mehr als 500 Zeichen umfassen.“

Das Dokument enthält ein Foto eines Textfelds mit einer grünen Schaltfläche mit der Aufschrift „ChatGPT: Kommentar generieren“ und dem Hinweis, dass „Peer-Checking-Kommentare“ erforderlich sind.

Die Verwendung von ChatGPT für Schulberichte gibt Anlass zur Sorge

Eine Quelle, die mit dem gesprochen hat Bucht der Fülle unter der Bedingung der Anonymität über die Verwendung von ChatGPT für Schulberichte, sagten ihrer Ansicht nach: „Es wäre schön, ein angemessenes Feedback zu erhalten.“

Die Quelle sagte, die Schule sage: „Es basiert auf Ihren Leistungen und Ihrem Verhalten und solchen Dingen, aber.“ [from my perspective] Ich denke, es wäre einfach schön, ein echtes Feedback zu bekommen.“

Die Quelle sagte, ChatGPT scheine „so“ Daten zu sammeln [in my opinion] Dies könnte durchaus auch ein Datenschutzproblem sein.“

Das Tauranga Boys' College antwortet

In einer Erklärung sagte Andrew Turner, Rektor des Tauranga Boys' College, dass ChatGPT letztes Jahr zum landesweiten KAMAR-Studentenverwaltungssystem hinzugefügt wurde, das Schülerinformationen speichert, „damit alle Schulen es testen können“.

„Diese Informationen sind für die Schule streng vertraulich und wichtige Informationen können von Mitarbeitern, Schülern und Eltern über einen Login/Passwort-Zugriff abgerufen werden.“

Turner sagte, die ChatGPT-Funktion sei mit den KAMAR-Informationen der Schule synchronisiert und „privat und vertraulich“ gewesen.

Er sagte, dass die Funktion die akademischen Leistungen, das Lernverhalten und die Anwesenheitsdaten der Studierenden erfasst und den Mitarbeitern einen „ersten Übersichtskommentar“ zur Verfügung stellt, den sie auf der Grundlage der Informationen verwenden können.

„Diese Funktion zielt darauf ab, die Genauigkeit und Effizienz der Berichterstattung zu verbessern, aber den Mitarbeitern bei der Berichterstattung an Schüler und Eltern niemals die Stimme zu nehmen.“

Turner sagte, die Schule erwarte von den Mitarbeitern, dass sie ihre Berichte innerhalb ihrer Abteilungen einer „Peer-Review“ unterziehen. Anschließend wurden die Berichte vom Verwaltungsteam und den Führungskräften Korrektur gelesen.

Er sagte, die Mitarbeiter hätten das Tool mit „gemischtem Feedback“ getestet.

„Wir sind nicht davon überzeugt, dass dies der richtige Weg ist, bleiben aber offen für die Erforschung von Tools, die die Mitarbeiter dabei unterstützen, ihre Genauigkeit und Effizienz bei der Berichterstattung an Schüler und Eltern zu verbessern.“

KAMAR reagiert auf die Bedenken von ChatGPT

In einer Erklärung sagte KAMAR-Geschäftsführer Kent Lendrum, dass sein Schülerverwaltungssystem von Schulen im ganzen Land genutzt werde und als „Hauptschülerdatenbank“ einer Schule für Verwaltungsaufgaben wie Anwesenheit und Berichterstattung gedient habe.

Laut Lendrum stellte KAMAR Schnittstellen zur Integration mit Tools von Drittanbietern bereit, darunter ChatGPT.

Allerdings „sammeln wir keine Informationen darüber, welche Tools jeder Kunde verwendet“.

Lendrum sagte, es sei Sache der Schulen, zu entscheiden, ob und wie sie jedes Tool nutzen und sicherzustellen, dass es ihren Richtlinien, Verfahren und Schutzmaßnahmen entspreche.

Lendrum sagte, es habe festgestellt, dass einige Lehrer ChatGPT „bereits nutzten“, um sie bei Aufgaben wie dem Verfassen von Berichtskommentaren zu unterstützen.

„Durch die Hinzufügung zu KAMAR wurde diese neue Technologie allen unseren Schulen zugänglich gemacht – nur, wenn sie sie für die Nutzung durch ihre Mitarbeiter konfiguriert hatten – und durch die Verwendung eines generischen Kontos wurde eine Ebene der Privatsphäre hinzugefügt, die Anfragen standardisiert und keine identifizierenden Informationen wie die des Schülers weitergegeben Name oder Geschlecht.“

Lendrum sagte, Lehrer sollten Kommentare stets auf „Kohärenz und Vollständigkeit“ prüfen, um sicherzustellen, dass sie ein genaues Abbild des Schülers seien.

Lendrum sagte, KAMAR habe keine Informationen darüber gesammelt, welche Schulen ChatGPT konfiguriert und aktiviert hätten.

Laut Bildungsministerium kann ChatGPT „unzuverlässig“ sein

Pauline Cleaver, stellvertretende Leiterin des Lehrplanzentrums des Bildungsministeriums, sagte, Schulen seien nicht verpflichtet, Beamte zu informieren, wenn sie ChatGPT für Berichtskommentare nutzen.

Das Ministerium räumte ein, dass ChatGPT „eindeutige potenzielle Vorteile“ für Schulen habe, da es große Datenmengen synthetisieren könne.

„Allerdings können sie unzuverlässig sein und Fakten und Details erfinden.“

Das Ministerium empfiehlt den Schulen, sicherzustellen, dass die Informationen von Lehrern überprüft werden, die den Schüler kennen und Fehler erkennen können.

Cleaver sagte, der Rat und die Anleitung des Ministeriums in Bezug auf KI seien, dass von den Schulen „robuste Richtlinien und Verfahren in Bezug auf Datenschutz, Nutzung digitaler Technologie und Dateninformationssicherheit“ erwartet würden.

Datenschutzbeauftragter: Schulen sollten Eltern über Pläne zur Nutzung von ChatGPT informieren

Eine Sprecherin des Büros des Datenschutzbeauftragten sagte, Schulen sollten Eltern die Möglichkeit geben, „mögliche Vorteile und Bedenken“ der Verwendung von ChatGPT für Berichtskommentare zu besprechen.

„Wenn sich die Schule dazu entschließt, weiterzumachen, könnte sie Eltern, die sich weiterhin unwohl fühlen, die Möglichkeit geben, auf die Verwendung von KI für die Zeugnisse ihrer Kinder zu verzichten.“

Schulen sollten auch Maßnahmen ergreifen, um Datenschutzrisiken zu mindern, indem sie eine Datenschutz-Folgenabschätzung durchführen, sagte die Sprecherin.

„Dies kann Eltern und Schulen das Gefühl geben, dass eine neue Technologie sicher eingesetzt wird.“

Die Sprecherin sagte, dass Organisationen nach dem Datenschutzgesetz gesetzlich verpflichtet seien, personenbezogene Daten zu schützen.

„Die Verwendung eines falschen Namens für einen Schüler reicht möglicherweise nicht aus, um die Sicherheit zu gewährleisten. Die Informationen beziehen sich immer noch auf diesen Schüler, und wenn sie an Dritte weitergegeben werden, kann es möglich sein, den Schüler erneut zu identifizieren oder die Informationen auf unerwartete Weise zu verwenden.“

„Informationen über Kinder sind sensibel und können lebenslange Auswirkungen haben. Wir möchten, dass diese Risiken berücksichtigt werden, bevor wir diese Art von Service nutzen.“

Die Sprecherin sagte, ChatGPT sei „noch neu“ und es gäbe „vieles, was wir nicht wissen“.

Datenschutzbeauftragter Michael Webster veröffentlichte im vergangenen Mai Ratschläge zu den Erwartungen von Behörden und Unternehmen an KI, die Datenschutzrechte der Menschen zu respektieren.

Dazu gehörte die Zustimmung der obersten Führungsebene, die Prüfung, ob KI „notwendig und verhältnismäßig“ sei, die Durchführung einer Datenschutz-Folgenabschätzung, „Transparenz“ gegenüber Kunden und Auftraggebern bei der Nutzung, die Entwicklung von Verfahren zur Genauigkeit und zum Zugriff durch Einzelpersonen sowie die Sicherstellung einer „menschlichen Überprüfung“ im Vorfeld Handeln und sicherstellen, dass persönliche oder vertrauliche Informationen nicht vom KI-Tool gespeichert oder offengelegt werden.

Megan Wilson ist ein Gesundheits- und allgemeiner Nachrichtenreporter für die Bucht der Fülle Und Rotorua Daily Post. Seit 2021 ist sie Journalistin.