Kann ein Beamter die Intelligenz von chatgpt nutzen?

Es hängt davon ab, für welche Regierungsbehörde oder Abteilung sie arbeiten.

Bereits im Juni verbot das Ministerium für Wirtschaft, Innovation und Beschäftigung seinen Mitarbeitern die Nutzung von ChatGPT und OpenAI andere generative KI-Tools – unter Berufung auf Daten- und Datenschutzrisiken.

ChatGPT und seine Kollegen gibt es in kostenlosen oder kostengünstigen Versionen, allerdings zu einem Preis, der darin besteht, dass alle von Ihnen eingegebenen Informationen jedes Mal, wenn Sie eine Frage stellen oder beispielsweise die KI (künstliche Intelligenz) bitten, ein langes Dokument schnell zusammenzufassen – kann dann in den Datenozean gelangen, der zum Trainieren künstlicher Intelligenz verwendet wird, und könnte als Antwort auf die Frage eines anderen Benutzers entstehen. Wie ChatGPT auf seiner Website sagt: „Der Chat-Verlauf kann überprüft oder zur Verbesserung unserer Dienste verwendet werden.“

Die Geschäftsbedingungen von ChatGPT für zahlende Geschäftskunden sind strenger, es wird aber auch klargestellt, dass sie keine Drittparteien abdecken, die die API (Application Programming Interface) des Unternehmens nutzen, was ihnen die Integration von ChatGPT-Funktionen in ihre eigenen Produkte ermöglicht.

Das Ministerium befürchtete, dass die Mitarbeiter sensible Informationen in die Technologie einschleusen könnten, die später wieder an die Oberfläche gelangen könnten. „MBIE hat als Regierungsbehörde die grundlegende Verantwortung, die Informationen zu schützen, die uns von den Menschen, die wir unterstützen, zur Verfügung gestellt werden“, sagte David Habershon, Chief Information Security Officer von MBIE Herold.

Das Verbot wurde als vorübergehende Pause während der Ausarbeitung von Richtlinien in Rechnung gestellt. Und es stand nicht im Widerspruch zu dem, was in Teilen des Privatsektors hier und im Ausland geschah. Etwa zur gleichen Zeit führten eine Reihe großer Banken und Technologieunternehmen, darunter Amazon, apple und Samsung, ChatGPT-Verbote ein.

Aber fünf Monate später ist es immer noch vorhanden.

„MBIE blockiert weiterhin den Zugriff auf die ChatGPT-Website und andere ähnliche Websites, bis wir sicherstellen können, dass wir über die entsprechenden Sicherheits- und Datenschutzmaßnahmen zum Schutz unserer Daten und Systeme verfügen“, sagte Habershon Herold diese Woche.

„MBIE kann zum jetzigen Zeitpunkt keinen Zeitrahmen nennen, wann die entsprechenden Sicherheits- und Datenschutzmaßnahmen umgesetzt werden.“

In gewisser Weise bereits eine Beratung für den öffentlichen Dienst

Die Position von MBIE ist ein wenig überraschend, wenn man bedenkt, dass erst vor ein paar Monaten taktische Leitlinien für den angemessenen Einsatz von GenAI durch den öffentlichen Dienst sowie generative KI-Anleitungen des Datenschutzbeauftragten veröffentlicht wurden“, sagte Frith Tweedie, Direktor von Simply Privacy, der sich darauf spezialisiert hat in KI-Governance und Datenschutz.

„Ich stimme zu, dass es wichtig ist, dass Regierungsbehörden die Auswirkungen des Einsatzes generativer KI auf die Privatsphäre besonders konservativ betrachten. Sie sind mit den sensiblen Daten, die sie speichern, besonderen Risiken ausgesetzt, sagte Matt Ensor, Vorsitzender der Arbeitsgruppe für generative KI des AI Forum NZ.

„Aber da die Fähigkeiten der generativen KI und die Kundenerwartungen steigen, führt jeder Tag ohne KI-Einführung dazu, dass weitere Chancen zur Verbesserung der Branchenleistung verpasst werden.“

Mindestens drei verschiedene Ansätze

In Neuseeland wurden keine KI-Gesetze verabschiedet, im Gegensatz zum KI-Gesetz, das Ende dieses Jahres in der Europäischen Union in Kraft treten soll, oder den Durchführungsverordnungen von Präsident Joe Biden zum KI-Schutz. Und keiner ist in unmittelbarer Nähe. Keine der großen Parteien verfolgte vor der Wahl eine KI-Politik.

In Ermangelung einer Gesetzgebung haben die Regierungsbehörden mindestens drei verschiedene Ansätze gewählt. Superministerium MBIE hat sein Verbot; andere haben die vom GCSB herausgegebenen Richtlinien für den öffentlichen Dienst übernommen, während andere wie der Parliamentary Service und Te Whatu Ora Health NZ ihre eigenen Protokolle übernommen haben.

„Wir empfehlen dringend“

Im Juli haben das National Cyber ​​Security Centre des GCSB und Statistics NZ gemeinsam ein Dokument mit dem Titel „Gemeinsame Leitlinien … zum verantwortungsvollen und vertrauenswürdigen Einsatz generativer künstlicher Intelligenz im gesamten neuseeländischen öffentlichen Dienst“ erstellt.

Das Dokument (online Hier) sagt, dass KI „viele Vorteile für den öffentlichen Dienst bieten könnte“, darunter Produktivitäts- und Effizienzsteigerungen, „Innovationen durch den Zugang zu „Big Data“-basierten Erkenntnissen und verbesserte Richtlinienentwicklung“ durch „umfassendere Dateneinblicke“ und „verbessertes Servicedesign und“. Bereitstellung durch Targeting und Personalisierung“.

In den Leitlinien heißt es außerdem: „Wir empfehlen dringend, dass Sie GenAI-Tools nicht für Daten verwenden, die als „sensibel“ oder höher eingestuft sind. Die Sicherheitsrisiken und möglichen Auswirkungen, wenn sensible oder höherwertige Datensätze kompromittiert würden, könnten für unsere Gesellschaft, Wirtschaft und öffentliche Dienste katastrophal sein.“

Und: „Wir empfehlen außerdem dringend, die Eingabe personenbezogener Daten, einschließlich Kundendaten, in GenAI-Daten zu vermeiden und äußerste Vorsicht walten zu lassen, wenn personenbezogene Daten betroffen sind.“

Außerdem wird Beamten empfohlen, „keine Informationen in GenAI-Tools einzugeben, die aufgrund einer Anforderung des Official Information Act zurückgehalten würden“ oder GenAI als „Schatten“-Helpdesk für IT-Probleme zu nutzen.

Abgeordnete und Parlamentsmitarbeiter

Die Mitglieder des Beehive dürfen ChatGPT nutzen, werden jedoch gebeten, verschiedene Aktivitäten zu „unterlassen“.

Rafael Gonzalez-Montero, Geschäftsführer des Parlamentarischen Dienstes, sagte, dass die Leitlinien von GenAI für Abgeordnete und Mitarbeiter Folgendes beinhalteten:

„Mitglieder und Mitarbeiter werden aufgefordert, sich für Ratschläge zu ChatGPT und anderen generativen KI-Systemen an unser Cybersicherheitsteam zu wenden.“

Krankenhauspersonal und Ärzte

Te Whatu Ora Health New Zealand, das nach der Verlagerung von 20 Bezirksgesundheitsämtern die Leitung unserer Krankenhäuser und anderer öffentlicher Gesundheitsdienste übernommen hat, sagt, seine KI-Richtlinie sei in Arbeit.

„Die Botschaft an unseren Kaimahi [workers] besteht darin, ChatGPT und andere generative KI-Systeme nur mit Vorsicht zu verwenden“, sagte Jon Herries, Gruppenleiter für neue Gesundheitstechnologie.

„Unsere Daten sind Taonga – deshalb ermutigen wir sie, sie zu schätzen und zu schützen. Das bedeutet, dass Sie keine privaten oder unveröffentlichten Informationen an öffentliche Tools für künstliche Intelligenz wie ChatGPT weitergeben. Und vertrauen Sie ihnen auf keinen Fall, wenn es um klinische Entscheidungen, Patientenversorgung oder -beratung oder Dokumentation geht.

„Wir erkennen die Geschwindigkeit, mit der sich KI entwickelt, und das Potenzial für ihren Einsatz im Gesundheitssektor, sowohl im Guten als auch im Schlechten. Te Whatu Ora ermittelt immer noch, wie diese Plattformen am besten sicher genutzt werden können.

„Zu diesem Zweck arbeiten wir mit unserer KI-Expertenberatungsgruppe zusammen, um zu verstehen, wie wir den Zugang zu KI am besten verwalten, und zwar auf eine Weise, die mit unseren strategischen Absichten und Werten sowie den sich entwickelnden rechtlichen und gemeinschaftlichen Standards übereinstimmt.“

Die vollständige Police von Te Whatu Ora ist online Hier.

Chris Keall ist ein in Auckland ansässiges Mitglied des Geschäftsteams des Herald. Er kam 2018 zum Herald und ist Technologieredakteur und leitender Wirtschaftsjournalist.