[ad_1]

Mitarbeiter des Verteidigungsministeriums haben seit der Einführung des Dienstes tausende Male ohne Zustimmung des Ministeriums auf die Server des Chatbots chatgpt mit künstlicher Intelligenz (KI) zugegriffen, wie aus Dokumenten hervorgeht.

Die Verteidigung hat seitdem den Zugriff auf die Webdomäne des ChatGPT-Eigentümers OpenAI eingeschränkt, um Daten- oder Datenschutzverletzungen durch deren Nutzung zu verhindern.

Ein Informationsfreiheitsantrag eingereicht von Crikey fanden heraus, dass Geräte des Verteidigungsministeriums (einschließlich Computer und Smartphones) zwischen dem 1. Dezember 2022 und dem 30. Juni 2023 5630 Mal eine Verbindung zu Webseiten mit der OpenAI.com-Domäne hergestellt hatten.

OpenAI.com hostet die KI-Produkte des Unternehmens, darunter ChatGPT, das erstmals am 30. November 2022 eingeführt wurde; Text-zu-Bild-Generator DALLE-2; GPT-4; und die anderen Webseiten von OpenAI.

In den Dokumenten heißt es, dass bei jeder Verbindung Verteidigungsbenutzer „über die Online-Webschnittstelle auf die Domäne zugegriffen haben“, was Verbindungen über Dienste von Drittanbietern oder über die Smartphone-Apps von OpenAI scheinbar ausschließt.

Der akkreditierte Entscheidungsträger der Abteilung, David Evans, stellte in einem Begleitschreiben zu dem über die FOI-Anfrage veröffentlichten Dokument auch zusätzliche Informationen über die ChatGPT-Richtlinie bereit.

Er schrieb, dass die Abteilung den Zugriff auf die Produkte von OpenAI nicht genehmigt habe und nur eingeschränkten Zugriff auf „Online-KI-Dienste wie Chat GPT“ habe [sic]” zu Verteidigungsmaßnahmen: „Damit soll verhindert werden, dass die Kontrolle über vertrauliche oder vertrauliche Informationen verloren geht.“

Evans und das veröffentlichte Verteidigungsdokument geben beide an, dass die 5630-Anfragen Fälle von Verbindungen zu den Servern von OpenAI umfassen, die vor der Entscheidung des Ministeriums, den Zugriff einzuschränken, hergestellt wurden.

Die Abteilung bestätigte den Eingang, reagierte jedoch nicht darauf CrikeyDie Medien verlangen, dass angegeben wird, welche Verbindungen vor der Beschränkung hergestellt wurden, wann die Kontrollen eingeführt wurden und welche „legitimen geschäftlichen oder betrieblichen Anforderungen“ gegebenenfalls aufgeführt waren, um den Zugang trotz der Beschränkungen zu ermöglichen.

Siehe auch  Ganz ehrlich: ChatGPT

Es gibt keine regierungsweite Empfehlung für Bundesministerien bezüglich der Nutzung generativer KI-Produkte wie ChatGPT. Anfang dieses Jahres sagte die Digital Transformation Agency, dass öffentliche Experimente mit den Diensten „nicht entmutigt“ würden, warnte jedoch davor, dass a vollständige Bewertung potenzieller Risiken durchgeführt werden sollte. Das Innenministerium hat mit der Verwendung experimentiert ChatGPTaber eine andere FOI enthüllte, dass es so war hatte kein Protokoll geführt seines Inputs in das OpenAI-Produkt.

Der Senator der Grünen für NSW und Sprecher für digitale Rechte, David Shoebridge, sagte, die große Anzahl von Verbindungen zeige, dass „das Pferd bereits durchgebrannt sei“, bevor die Verteidigung gehandelt habe.

„Dies unterstreicht erneut das Fehlen einer glaubwürdigen regierungsweiten Politik, um Sicherheitsbedenken im Zusammenhang mit diesen neuen Technologien auszuräumen“, sagte er Crikey in einer E-Mail.

Shoebridge forderte neue Richtlinien und Vorschriften für den Einsatz generativer KI in der Regierung, bevor weitere Informationen in diese Dienste hochgeladen werden: „Die Verteidigung verfügt über Unmengen an geheimen Informationen und dennoch wird eine Plattform mit bekannten Datenschutzbedenken ohne ausgefeilte Sicherheitskontrollen genutzt.“ Das ist wirklich beunruhigend.“

Dieser Artikel ist aus unserer Schwesterpublikation Crikey reproduziert.


MEHR LESEN:

APS hat offizielle Leitlinien zur Nutzung von ChatGPT, Bard AI und Bing AI am Arbeitsplatz herausgegeben

[ad_2]

⬅ Bewerten Sie post
Anzeige

Kommentieren Sie den Artikel

Bitte geben Sie Ihren Kommentar ein!
Bitte geben Sie hier Ihren Namen ein