In letzter Zeit war die Technologiewelt begeistert von den Fähigkeiten von ChatGPT, einem von OpenAI entwickelten KI-basierten Chatbot. Dieses vielseitige Tool wurde für seine Fähigkeit gelobt, überzeugende Prosa und sogar funktionalen Code zu generieren. Mit der Weiterentwicklung der Technologie entwickeln sich jedoch auch die Methoden böswilliger Akteure weiter, und die Leistungsfähigkeit von ChatGPT ist nicht vor der Ausnutzung durch Cyber-Angreifer gefeit.

Generative KI-Tools wie ChatGPT sind zu einem zweischneidigen Schwert geworden. Während sie Benutzern beeindruckende Fähigkeiten bieten, bieten sie böswilligen Akteuren auch ein wirksames Mittel, um überzeugende Narrative und Codes zu erstellen, einschließlich Social-Engineering-Angriffen. Dies gibt Anlass zur Sorge hinsichtlich der Auswirkungen dieser neuen Kategorie von Tools auf Cyberangriffe, insbesondere solche, die Social Engineering beinhalten.

Die Ära des makellosen Social Engineering

In der Vergangenheit waren schlecht formulierte oder grammatikalisch falsche E-Mails oft ein verräterisches Zeichen für Phishing-Versuche. Bei der Sensibilisierung für Cybersicherheit wurde der Schwerpunkt auf die Identifizierung solcher Anomalien gelegt, um potenzielle Bedrohungen abzuwehren. Das Aufkommen von ChatGPT hat jedoch das Spiel verändert. Sogar Menschen mit begrenzten Englischkenntnissen können jetzt einwandfreie, überzeugende Nachrichten in perfektem Englisch verfassen, wodurch es immer schwieriger wird, Social-Engineering-Versuche zu erkennen.

OpenAI hat in ChatGPT einige Sicherheitsvorkehrungen implementiert, um Missbrauch zu verhindern, diese Barrieren sind jedoch nicht unüberwindbar, insbesondere für Social-Engineering-Zwecke. Böswillige Akteure können ChatGPT anweisen, Betrugs-E-Mails zu generieren, die dann mit angehängten bösartigen Links oder Anfragen versendet werden können. Der Prozess ist bemerkenswert effizient, da ChatGPT E-Mails schnell wie ein Profi erstellt, wie eine auf Anfrage erstellte Beispiel-E-Mail zeigt.

Die Erkenntnisse von Darktrace und die Zunahme KI-basierter Social-Engineering-Angriffe

Das Cybersicherheitsunternehmen Darktrace meldet einen Anstieg KI-basierter Social-Engineering-Angriffe und führt diesen Trend auf ChatGPT und ähnliche Tools zurück. Diese Angriffe werden immer ausgefeilter, Phishing-E-Mails werden länger, besser punktiert und überzeugender. Der Standardton von ChatGPT spiegelt die Unternehmenskommunikation wider, wodurch es noch schwieriger wird, schädliche Nachrichten zu unterscheiden.

Die kriminelle Lernkurve

Cyberkriminelle lernen schnell. Berichten zufolge finden in Dark-Web-Foren mittlerweile Diskussionen über die Ausnutzung von ChatGPT für Social Engineering statt, wobei Kriminelle in nicht unterstützten Ländern Wege finden, Beschränkungen zu umgehen und sich die Macht von ChatGPT zunutze zu machen. ChatGPT ermöglicht es Angreifern, viele einzigartige Nachrichten zu generieren und so Spam-Filter zu umgehen, die nach wiederholten Inhalten suchen. Darüber hinaus hilft es bei der Erstellung polymorpher Malware, was die Erkennung schwieriger macht.

Während sich ChatGPT hauptsächlich auf die schriftliche Kommunikation konzentriert, können andere KI-Tools lebensechte gesprochene Wörter erzeugen, die bestimmte Personen nachahmen. Diese Fähigkeit zur Stimmnachahmung öffnet die Tür zu Telefonanrufen, bei denen hochkarätige Persönlichkeiten überzeugend nachgeahmt werden. Dieser zweigleisige Ansatz – glaubwürdige E-Mails, gefolgt von Sprachanrufen – fügt Social-Engineering-Angriffen eine zusätzliche Täuschungsebene hinzu.

Ausbeutung von Arbeitssuchenden und gefälschte ChatGPT-Tools

ChatGPT beschränkt sich nicht nur auf das Verfassen von E-Mails; Es kann Anschreiben und Lebensläufe in großem Umfang erstellen und Arbeitssuchende bei Betrügereien ausnutzen. Darüber hinaus machen sich Betrüger den ChatGPT-Trend zunutze, indem sie gefälschte Chatbot-Websites erstellen, die angeblich auf den Modellen von OpenAI basieren. In Wirklichkeit zielen diese Websites darauf ab, Geld zu stehlen und persönliche Daten zu sammeln.

Schutz vor KI-gestützten Angriffen

Da KI-gestützte Angriffe immer häufiger auftreten, müssen sich Unternehmen an diese sich entwickelnde Bedrohungslandschaft anpassen:

1. Integrieren Sie KI-generierte Inhalte in Phishing-Simulationen, um Mitarbeiter mit KI-generierten Kommunikationsstilen vertraut zu machen.

2. Integrieren Sie Schulungen zur Sensibilisierung für generative KI in Cybersicherheitsprogramme und verdeutlichen Sie, wie ChatGPT und ähnliche Tools genutzt werden können.

3. Setzen Sie KI-basierte Cybersicherheitstools ein, die maschinelles Lernen und die Verarbeitung natürlicher Sprache nutzen, um Bedrohungen zu erkennen und verdächtige Kommunikation zur menschlichen Überprüfung zu kennzeichnen.

4. Nutzen Sie ChatGPT-basierte Tools, um von generativer KI verfasste E-Mails zu identifizieren und so eine zusätzliche Sicherheitsebene hinzuzufügen.

5. Überprüfen Sie immer die Authentizität der Absender in E-Mails, Chats und Textnachrichten.

6. Pflegen Sie eine offene Kommunikation mit Branchenkollegen und bleiben Sie über aufkommende Betrügereien auf dem Laufenden.

7. Verfolgen Sie bei der Cybersicherheit einen Zero-Trust-Ansatz und gehen Sie davon aus, dass Bedrohungen von internen und externen Quellen ausgehen können.

ChatGPT ist nur die Spitze des Eisbergs, und ähnliche Chatbots mit dem Potenzial für die Ausnutzung von Social-Engineering-Angriffen werden wahrscheinlich bald auftauchen. Obwohl diese KI-Tools erhebliche Vorteile bieten, bergen sie auch erhebliche Risiken. Wachsamkeit, Aufklärung und fortschrittliche Cybersicherheitsmaßnahmen sind unerlässlich, um im laufenden Kampf gegen KI-gestützte Cyberbedrohungen die Nase vorn zu haben.