Bei der Prompt-Injection handelt es sich um eine Technik zur Manipulation natürlichsprachlicher Anweisungen, die an ein KI-Modell gesendet werden, damit dieses böswillige Aktionen ausführt. Dies ist laut Cybersicherheitsforschern von Synopsys genau das Risiko, dem EmailGPT-Benutzer ausgesetzt sind.

Konkret könnte ein Angreifer speziell gestaltete Anfragen an die EmailGPT-API senden, um das zugrunde liegende KI-Modell zu „hacken“. Es wäre dann in der Lage, die von der Erweiterung verwendeten Standardeingabeaufforderungen anzuzeigen oder sogar beliebige Befehle ohne Wissen des Benutzers auszuführen. So könnten Nachrichten, die Schadcode enthalten, in Ihre E-Mail-Entwürfe eingeschleust werden.

Zu den hervorgehobenen Hauptrisiken zählen der Verlust sensibler Daten (der Inhalt Ihrer E-Mails, möglicherweise aber auch Ihrer Kontakte oder Ihres Kalenders, wenn die Erweiterung Zugriff darauf hat), die Installation von Malware, Spam-Kampagnen, die Generierung falscher Informationen/Deepfakes, usw. Unternehmen sind besonders gefährdet, da ihre interne Kommunikation gefährdet sein könnte.

Ein weiteres Problem: Da diese Art von Angriff über das KI-Modell selbst und nicht über die Schnittstelle verläuft, ist sie sehr schwer zu erkennen. Möglicherweise verwenden Sie die infizierte Erweiterung, ohne zu bemerken, dass sich schädliche Inhalte in Ihre E-Mails einschleichen.

Im weiteren Sinne zeigt dieser Vorfall die Grenzen der von den EmailGPT-Entwicklern eingeführten Sicherheitsmaßnahmen auf. Anscheinend werden Benutzeranfragen nicht ausreichend „bereinigt“, bevor sie an die OpenAI-API gesendet werden, was der Manipulation Tür und Tor öffnet. Da der Quellcode außerdem öffentlich auf GitHub verfügbar ist, können Hacker Schwachstellen noch leichter finden.

Während Sie auf eine Lösung warten, ist es immer noch die beste Lösung, die Erweiterung einfach zu deinstallieren. Wenn man beispielsweise zum Schreiben eines Briefs zum Stift greifen muss, müssen diejenigen, die süchtig nach Eingabeaufforderungen sind, ihre Finger wieder auf die Tastatur legen. Anfangs ist es schmerzhaft, aber es geht vorbei.