Das aufkeimende Feld der generativen KI-Modelle befindet sich derzeit noch in den Kinderschuhen, doch seine Unschuld wird durch das Auftauchen eines neuen KI-Wurms namens „Zero-Click“ gefährdet. In einer kontrollierten Testumgebung hat ein Forschertrio eine Bedrohung entwickelt, die … das Potenzial, sich systemübergreifend auszubreiten und möglicherweise Daten zu stehlen oder durch Text- und Bildeingaben eine „gegnerische, sich selbst reproduzierende Eingabeaufforderung“ auszulösen.
Der Wurm stellt eine neuartige Cyber-Bedrohung dar, die die Vernetzung und Autonomie von KI-Ökosystemen ausnutzt. Sie stellen ein erhebliches Risiko für hochmoderne KI-Plattformen wie chatgpt-4 von OpenAI und Gemini von google dar, da sie die Möglichkeit haben, diese Tools zu manipulieren und auszunutzen.
Der Forschungszusammenfassung zufolge haben Angreifer die Möglichkeit, diese Eingabeaufforderungen in Eingaben einzubetten. Wenn diese Eingaben von GenAI-Modellen interpretiert werden, führen sie dazu, dass das Modell die Eingabe als Ausgabe dupliziert (Replikation) und schädliche Aktionen ausführt (Nutzlast). Darüber hinaus zwingen diese Eingaben den Agenten dazu, sie an andere Agenten zu verteilen (zu verbreiten), indem er die Vernetzung innerhalb des GenAI-Ökosystems nutzt.
Der potenzielle Schaden des KI-Wurms.
Die Fähigkeit des Wurms, sich autonom und unentdeckt zwischen KI-Agenten auszubreiten, eröffnet einen neuen Weg für Cyberangriffe und stört die vorherrschenden Sicherheitsrahmen. Die Folgen eines solchen Wurms sind weitreichend und stellen eine erhebliche Bedrohung für Startups, Entwickler und Technologieunternehmen dar, die auf generative KI-Systeme angewiesen sind.
Sicherheitsexperten und Forscher, darunter auch vom CISPA Helmholtz-Zentrum für Informationssicherheit, betonen die Machbarkeit dieser Angriffe und die dringende Notwendigkeit für die Entwicklungsgemeinschaft, sich ernsthaft mit diesen Risiken auseinanderzusetzen.
Dies bedeutet, dass der Wurm zum Leiten verwendet werden könnte Phishing-AngriffeSpam-E-Mails versenden oder sogar Propaganda verbreiten, heißt es in dem Bericht.
Der Rückstand an Computerwürmern
Wie Wired berichtet, deuten die Entdeckungen darauf hin, dass keine Software und kein umfassendes Sprachmodell von Natur aus unempfindlich gegenüber Computerviren wie Malware ist. Ein Forscherteam der Cornell University, des Softwareunternehmens Intuit und des israelischen Technion entwickelte den Wurm mit dem Namen „Morris II“. Der Name ist eine Hommage an einen der frühesten sich selbst reproduzierenden Computerwürmer, den Morris-Wurm, der 1988 vom Cornell-Studenten Robert Morris entwickelt wurde.
In der Vergangenheit verursachte der erste Morris-Wurm etwa 10 % aller mit dem Internet verbundenen Computer zum Absturz. Obwohl es sich damals nicht um eine große Anzahl von Maschinen handelte, bewies es, dass sich Computerwürmer ohne menschliche Hilfe schnell zwischen Systemen verbreiten können, weshalb es als „Zero-Click-Wurm“ bezeichnet wird.
Eindämmung von Wurmbedrohungen
Auch wenn KI-Würmer potenziell Anlass zur Sorge geben können, glauben Experten, dass der Einsatz regelmäßiger Sicherheitsmethoden und ein sorgfältiges App-Design dazu beitragen können, diese Gefahren zu verringern.
Adam Swanda, Forscher beim KI-Sicherheitsunternehmen Robust Intelligence, schlägt vor, Apps sicher zu entwerfen und die KI-Aktivitäten von Menschen überwachen zu lassen.
Wenn Sie sicherstellen, dass KI-Agenten keine Dinge ohne Erlaubnis tun, kann das Risiko unbefugter Aktionen erheblich verringert werden. Außerdem kann es dabei helfen, mögliche Probleme frühzeitig zu erkennen, wenn man nach seltsamen Mustern Ausschau hält, etwa nach sich wiederholenden Befehlen in KI-Systemen.
Sogar Ben Nassi, ein Ph. D. Student an der Ben-Gurion-Universität des Negev (BGU) und ehemaliger Google-Mitarbeiter mit seinem Team betont die Bedeutung der Sensibilisierung von Entwicklern und Unternehmen, die KI-Assistenten entwickeln. Sie legen Wert auf das Verständnis von Risiken und die Implementierung robuster Sicherheitsmaßnahmen zum Schutz vor der Ausbeutung generativer KI-Systeme. Ihre Forschung fordert, der Sicherheit beim Entwurf und Einsatz von KI-Ökosystemen Priorität einzuräumen.
Die Entwicklung des Morris-II-Wurms markiert einen entscheidenden Moment in Sachen Cyber-Bedrohungen und deckt Schwachstellen in generativen KI-Systemen auf. Mit zunehmender Verbreitung von KI werden umfassende Sicherheitsstrategien immer wichtiger.
Durch die Förderung des Bewusstseins und proaktive Sicherheitsmaßnahmen kann die KI-Entwicklungsgemeinschaft KI-Würmer abwehren und die sichere Nutzung generativer KI-Technologien gewährleisten.
