Mitarbeiter des Verteidigungsministeriums haben seit dem ersten Start des Dienstes tausende Male ohne Zustimmung des Ministeriums auf die Server des Chatbots chatgpt mit künstlicher Intelligenz (KI) zugegriffen, wie aus Dokumenten hervorgeht.
Die Verteidigung hat seitdem den Zugriff auf die Webdomäne des ChatGPT-Eigentümers OpenAI eingeschränkt, um Daten- oder Datenschutzverletzungen durch deren Nutzung zu verhindern.
Ein Informationsfreiheitsantrag eingereicht von Crikey fanden heraus, dass Geräte des Verteidigungsministeriums (einschließlich Computer und Smartphones) zwischen dem 1. Dezember 2022 und dem 30. Juni 2023 5630 Mal eine Verbindung zu Webseiten mit der OpenAI.com-Domäne hergestellt hatten.
OpenAI.com hostet die KI-Produkte des Unternehmens, darunter ChatGPT, das erstmals am 30. November 2022 eingeführt wurde; Text-zu-Bild-Generator DALLE-2; GPT-4; und die anderen Webseiten von OpenAI.
Politische Aktivisten nutzen KI, um Unterstützerbriefe an die Regierung zu schreiben
In den Dokumenten heißt es, dass bei jeder dieser Verbindungen Verteidigungsbenutzer „über die Online-Webschnittstelle auf die Domäne zugegriffen haben“, was offenbar Verbindungen über Dienste Dritter oder über die Smartphone-Apps von OpenAI ausschließt.
Der akkreditierte Entscheidungsträger der Abteilung, David Evans, lieferte außerdem zusätzliche Informationen über die ChatGPT-Richtlinie der Abteilung in einem Begleitschreiben zu dem Dokument, das im Rahmen einer Informationsfreiheitsanfrage veröffentlicht wurde.
Er schrieb, dass die Abteilung den Zugriff auf die Produkte von OpenAI nicht genehmigt habe und nur eingeschränkten Zugriff auf „Online-KI-Dienste wie Chat GPT (sic)“ auf Verteidigungsgeräten habe.
„Damit soll verhindert werden, dass die Kontrolle über vertrauliche oder vertrauliche Informationen verloren geht“, sagte er.
Evans und das veröffentlichte Verteidigungsdokument geben beide an, dass die 5630-Anfragen Fälle von Verbindungen zu den Servern von OpenAI umfassen, die vor der Entscheidung des Ministeriums, den Zugriff einzuschränken, hergestellt wurden.
Die Abteilung bestätigte den Eingang, reagierte jedoch nicht darauf CrikeyDie Medien verlangen, dass angegeben wird, welche Verbindungen vor der Einschränkung hergestellt wurden, wann die Kontrollen eingeführt wurden und welche „legitimen geschäftlichen oder betrieblichen Anforderungen“ gegebenenfalls aufgeführt waren, um den Zugang trotz der Einschränkungen zu ermöglichen.
Es gibt keine regierungsweite Empfehlung für Bundesministerien bezüglich der Verwendung generativer KI-Produkte wie ChatGPT. Anfang dieses Jahres hat die Digital Transformation Agency sagte Von Experimenten im öffentlichen Dienst mit den Diensten wurde „nicht abgeraten“, es wurde jedoch gewarnt, dass eine vollständige Bewertung potenzieller Risiken durchgeführt werden sollte. Das Innenministerium hat mit der Verwendung experimentiert ChatGPTaber ein anderer FOI enthüllt dass die Abteilung keine Aufzeichnungen über ihre Eingaben in das OpenAI-Produkt geführt habe.
Der Senator der Grünen für NSW und Sprecher für digitale Rechte, David Shoebridge, sagte, die große Anzahl von Verbindungen zeige, dass „das Pferd bereits durchgebrannt sei“, bevor die Verteidigung gehandelt habe.
„Dies unterstreicht erneut das Fehlen einer glaubwürdigen regierungsweiten Politik, um Sicherheitsbedenken im Zusammenhang mit diesen neuen Technologien auszuräumen“, sagte er Crikey in einer E-Mail.
Shoebridge forderte neue Richtlinien und Vorschriften für den Einsatz generativer KI in der Regierung, bevor weitere Informationen in diese Dienste hochgeladen werden.
„Die Verteidigung verfügt über Unmengen an geheimen Informationen und dennoch wird eine Plattform mit bekannten Datenschutzbedenken ohne ausgefeilte Sicherheitskontrollen genutzt. Das ist wirklich beunruhigend“, sagte er.
