Die Welt machte einen großen Schritt nach vorne, als chatgpt von OpenAI dem einfachen Mann einen Vorgeschmack auf generative KI gab. In den letzten zwei Jahren haben die Fortschritte auf diesem Gebiet die Art und Weise, wie wir leben und arbeiten, verändert. Ob wir den Kindern bei den Hausaufgaben helfen, eine einzigartige Social-Media-Bildunterschrift kuratieren, ein Foto mit künstlichen Elementen füllen oder komplexe mathematische Probleme lösen – generative KI hat uns eine Last von den Schultern genommen.

Ihre Entwickler versprechen zudem größtmögliche Sicherheit vor Cyber-Bedrohungen. Wenn man jedoch eine aktuelle Studie berücksichtigt, ist generative KI ebenso anfällig für externe Bedrohungen wie jede andere heute existierende Technologie.

Kürzlich hat ein generativer KI-Wurm eine Lücke in den Sicherheitssystemen von zwei der weltweit beliebtesten KI-Chatbots gefunden – google Gemini (ehemals Bard) und ChatGPT von OpenAI. Wenn dieser Wurm aktiviert ist, kann er diese KI-Chatbots in ihren Client-Apps manipulieren und sie zur Verbreitung von Malware, zur Durchführung von Phishing-Angriffen und zum Versenden von Spam-E-Mails nutzen.

Wenn Sie sich für einen generativen KI-Dienst angemeldet haben, müssen Sie aufmerksam sein. Obwohl die Teams von OpenAI und Google ständig an der Veröffentlichung von Sicherheitspatches arbeiten, können Würmer immer noch neue Schwachstellen in KI-Chatbots aufspüren und eine Lücke finden, um ihre böswilligen Absichten voranzutreiben.

Deshalb versuchen wir, KI-Würmer zu verstehen und wie Sie sich vor diesen lästigen Computerprogrammen schützen können.

Beginnen wir mit der Beantwortung der einfachsten Fragen.

Was ist ein Computerwurm?

Ein Computerwurm ist im Wesentlichen eine Schadsoftware, die Duplikate erstellen und über ein Netzwerk auf andere Computer verteilen kann. Obwohl es einem Computervirus ähneln mag, benötigt ein Computerwurm kein Host-Programm oder Betriebssystem, um Kopien von sich selbst zu verbreiten. Es ist autark.

Würmer gehören zu den gefährlichsten Schadprogrammen in der digitalen Welt und können Probleme wie den Diebstahl sensibler Informationen, die Beschädigung von Dateien, die Belegung von Systemressourcen und die Installation von Hintertüren verursachen, um Hackern den Zugang zu ermöglichen. Der erste Computerwurm namens Morris wurde 1988 von Wissenschaftlern der Cornell University veröffentlicht.

KI-Würmer: Welche Bedrohung stellen sie dar?

Im Jahr 2024 hat ein Nachfolger desselben Instituts einen KI-Wurm entwickelt. Dieser Wurm mit dem treffenden Namen Morris II geht auf E-Mail-Clients los, die mit generativen KI-Modellen ausgestattet sind, und nutzt die Lücken in diesen Large-Lanauge-Modellen (LLMs), um böswillige Geschäfte abzuwickeln.

Moderne generative KI-Chatbots antworten meist auf eine Anfrage und versuchen, das vorliegende Problem zu lösen. Die Forscher gaben diesen Chatbots eine gegnerische, sich selbst reproduzierende Eingabeaufforderung, die das GenAI-Modell dazu veranlasst, eine Eingabeaufforderung auszugeben. Dies setzt einen Wiederholungszyklus in Gang, der schließlich das LLM zerstört und dazu führt, dass es sich wie ein Wurm verhält. Die Eingabeaufforderungen können sowohl Texte als auch Bilder enthalten.

Diese Aufforderungen können dann für böswillige Aktivitäten wie das Versenden von Spam-Nachrichten, die Offenlegung vertraulicher Daten, die Generierung toxischer Inhalte und sogar die Verbreitung von Propaganda verwendet werden. In einer Demonstration von Ben Nassi von Cornell Tech, Stav Cohen vom Israel Institute of Technology und Ron Bitton von Intuit war der Morris II-Wurm in der Lage, E-Mail-Clients zu infizieren, indem er die generativen KI-Modelle GPT 4, Gemini Pro und LLaVa für verschiedene Faktoren wie die Ausbreitung nutzte Geschwindigkeit, Replikation und böswillige Aktivitäten.

Der von diesen Wissenschaftlern entwickelte KI-Wurm war in der Lage, die Schutzmaßnahmen dieser KI-Modelle zu durchbrechen und sie anzuweisen, sensible Daten wie Sozialversicherungsnummern und Kreditkarteninformationen zu stehlen. In den falschen Händen kann ein solcher KI-Wurm sogar noch mehr Schaden anrichten, als man erwarten kann.

Obwohl die einzige Absicht des Morris-II-Wurms dies war zeigen Aufgrund der Anfälligkeit dieser fortschrittlichen generativen KI-Modelle gibt die Studie den Entwicklern dieser KI-Chatbots eine erhebliche Verantwortung für die Gewährleistung solider Sicherheitsprotokolle, die für Würmer und andere Schadprogramme undurchdringlich sind.

So schützen Sie sich vor KI-Würmern

In dieser Phase liegt die Verantwortung bei Unternehmen wie Google, OpenAI und allen anderen LLM-Entwicklern, solide Sicherheitsprotokolle sicherzustellen, die nicht durch böswillige Text- und Bildaufforderungen verletzt werden können.

Wenn Sie jedoch einen generativen KI-basierten E-Mail-Client verwenden, empfehlen wir Ihnen, auf verdächtige E-Mails mit nicht verifizierten Anhängen zu achten. Vermeiden Sie es unbedingt, sie auf Ihr Gerät herunterzuladen. Das Gleiche gilt für Dateien und Textaufforderungen, die über Messaging-Plattformen gesendet werden.

(Hero und vorgestellte Bildnachweise: Mit freundlicher Genehmigung von Mojahid Mottakin über Unsplash)

Häufig gestellte Fragen (FAQs)

– Was ist ein KI-Wurm? Ein KI-Wurm ist Malware, die Ihre vertraulichen Informationen stiehlt, Spam versendet und sich auf verschiedene Weise verbreitet.

– Wie kann ein KI-Wurm ChatGPT infizieren? Ein KI-Wurm kann ChatGPT infizieren, indem er einen GPT-4-basierten E-Mail-Client mit Text- und Bildaufforderungen angreift.