Die Bundesverwaltung hat für ihre Mitarbeiter eine Checkliste veröffentlicht, die ihnen bei der Nutzung von GenAI Orientierung geben soll und Beispiele für autorisierte oder unerlaubte Nutzung enthält.

Der Einsatz eines Chatbots mit generativer KI ist nicht ohne Risiken. Große Sprachmodelle können beispielsweise die Systemsicherheit und den Datenschutz gefährden. Organisationen haben begonnen, dies zu erkennen. Aus diesem Grund hat die Bundesverwaltung gerade eine Checkliste veröffentlicht, die ihre Mitarbeiter bei der Nutzung der im Internet verfügbaren GenAI-Tools unterstützen soll.

Das Dokument des Bundes listet erlaubte und unerlaubte Nutzungen auf. Die meisten Verbote haben ein datenschutzrechtliches Ziel. Es ist daher nicht gestattet, es zur Zusammenfassung nicht öffentlicher Dokumente, zur Übersetzung eines Lebenslaufs oder zur Eingabe einer konkreten Anfrage eines Korrespondenten zu verwenden.

Was die autorisierten Aufgaben angeht, könnten Sie einige überraschen. Bundesbeamte haben beispielsweise das Recht, sich mit generativen KI-Tools in ein Thema einzuarbeiten, eine Nutzung, die die Bundesverwaltung als „analog zu google oder Wikipedia“ ansieht. Auch wenn das Dokument in der Einleitung daran erinnert, dass KI-Tools mithilfe großer Datenmengen aus meist nicht spezifizierten Quellen trainiert werden. „Es besteht daher ein gewisses Risiko, dass die auf dieser Basis berechneten Wahrscheinlichkeiten veraltet, irreführend, diskriminierend oder sogar schlicht falsch sind“, warnt dieser Spickzettel. Weitere geduldete Nutzung: die Zusammenfassung veröffentlichter Texte (Berichte etc.).

Die Bundesverwaltung erwartet von ihren Mitarbeitern zudem, dass sie sich für die Nutzung der gewonnenen Ergebnisse verantwortlich fühlen. „Sie müssen jederzeit in der Lage sein, eine Entscheidung zu begründen, die Sie auf der Grundlage der Ergebnisse eines generativen KI-Tools getroffen haben“, heißt es in dem Dokument weiter.

Um mehr über die mit GenAI verbundenen Risiken zu erfahren, lesen Sie unsere Datei >> „GenAI & Cybersicherheit“