Generative KI-Modelle, wie sie in Chat-Assistenten zum Einsatz kommen, sind durch einen neuen Computerwurm gefährdet. Dieser Wurm kann KI-Systeme angreifen, darunter chatgpt von OpenAI und Gemini von google. Ein Team aus drei Forschern hat im Rahmen seiner Tests gezeigt, dass dieser Wurm KI-E-Mail-Helfer dazu verleiten kann, persönliche Daten zu stehlen und unerwünschte E-Mails zu versenden.

Die Forscher entdeckte, dass dieser „Zero-Click“-Wurm sowohl Text als auch Bilder verwenden kann, um ChatGPT, Gemini und ein Open-Source-Modell namens LLaVA zu schädigen. Der Wurm funktioniert, indem er schädliche Eingabeaufforderungen einschleicht, die die KI dazu veranlassen, diese Eingabeaufforderungen zu wiederholen und schädliche Aktionen auszuführen, ohne dass dafür Klicks oder direkte Befehle von Benutzern erforderlich sind.

Der Wurm könnte zu schwerwiegenden Problemen wie Phishing (Menschen dazu verleiten, persönliche Daten preiszugeben), dem Versenden von Spam-E-Mails oder der Verbreitung falscher Informationen führen. Dies wurde zuerst von Wired berichtet und betont, dass kein Computersystem oder KI-Modell völlig sicher vor Viren ist.

Die Entwickler dieses Wurms, die von der Cornell University, Intuit und dem israelischen Technion stammen, haben ihn „Morris II“ benannt, nach einem frühen Computerwurm aus dem Jahr 1988. Der ursprüngliche Morris-Wurm zeigte der Welt, wie sich diese Bedrohungen von selbst auf Computern verbreiten können mit dem Internet verbunden.

Die Leute hinter Morris II weisen darauf hin, dass Fehler in der Konstruktion von KI-Systemen es ihnen ermöglicht haben, diesen Wurm zu erschaffen. Sie warnen davor, dass solche Würmer in Zukunft für groß angelegte Angriffe eingesetzt werden könnten, wodurch weitere KI-Tools gefährdet würden. Dies unterstreicht die dringende Notwendigkeit, KI-Modelle sicherer zu machen.

OpenAI antwortete mit der Aussage, dass sie daran arbeiten, ihre Systeme robuster und besser zu schützen. Diese Situation zeigt, wie wichtig es ist, Benutzereingaben zu überprüfen und zu filtern, um solche Angriffe zu verhindern.

Bild: DIW-Aigen

Lesen Sie weiter: CIRP-Studie hebt iphone 14 und 14 Plus als Top-Wahl für Android-Benutzer hervor, die zu apple wechseln