Die überraschende Wirksamkeit von chatgpt bei der Aufdeckung von Phishing-Angriffen

Einer von neunundneunzig E-Mails, die Sie erhalten, ist ein Phishing-Angriff. Phishing-Angriffe werden immer ausgefeilter und durchdringen selbst die anspruchsvollsten Abwehrmechanismen. A Phishing-Vorgang Die Nutzung bekannter Marken wie MSN, VMware, McAfee, The Economist, Cornell University, CBS, Marvel und eBay dient als aktuelles Beispiel. Diese Operation verdeutlicht, dass es trotz fortschrittlicher Cybersicherheitsmaßnahmen immer Lücken geben wird. Darüber hinaus ein Bericht von Menlo-Sicherheit erklärte, dass „die Besorgnis über KI-generierte Phishing-Betrügereien zunimmt.“ […] Kriminelle können diese Plattformen nutzen, um ihre Phishing-Kampagnen zu verstärken. Anstelle von Phishing-Betrügereien mit Rechtschreibfehlern, schlechter Grammatik und umständlicher Formulierung helfen Plattformen wie ChatGPT dabei, all diese Fehler zu beheben.“ Unsere Frage ist: Könnte uns KI wie ChatGPT auch bei der Abwehr von Angriffen helfen?

Für das geschulte Auge stellt Phishing keine nennenswerte Bedrohung dar. Phishing-Angriffe basieren auf Täuschung, die Sicherheitsexperten stets aufdecken können. Bei den meisten Täuschungen handelt es sich um das Einbetten von Links, die nicht auf das verweisen, was sie zu sein scheinen, aber bei oberflächlicher Betrachtung legitim erscheinen. Ein klassischer Trick besteht darin, eine URL zu einer falschen Bank-Website bereitzustellen. Die URL könnte bankofamerica.bnking12.com lauten – irreführend. Aber nur einige Leute sind Sicherheitsexperten. Und wer hat schon die Zeit, jede E-Mail-Korrespondenz zu prüfen?

Kann KI als Sicherheitsexperte ausgebildet werden, der Ihnen dabei hilft, das Gefährliche aus dem Safe zu entfernen? Hier bei mxHERO Labs erforschen wir, wie KI im E-Mail-Kontext eingesetzt werden kann. Ob für effiziente Suche oder einfacher E-Mail-Nutzung, wir haben auch den Nutzen von KI als Anti-Phishing-Tool gesehen. Mit unserer frei verfügbaren ChatGPT-App – Chatten Sie per E-Mail, bitten wir ChatGPT zu beurteilen, ob es sich bei einer bestimmten E-Mail möglicherweise um einen Phishing-Angriff handelt. Beispielsweise habe ich kürzlich die folgende E-Mail in meinem persönlichen Gmail-Konto erhalten. Ich verwende dieses Beispiel, weil meine Tante vor ein paar Jahren auf genau denselben Trick hereingefallen ist, nämlich eine Rechnung von „Norton“.

Auf den ersten Blick sieht es legitim aus. Wir können erkennen, dass der Anhang von Norton stammt und die Datei, was für viele Benutzer nicht hilfreich ist, von google vorab gescannt wurde. Es muss also sicher sein. Rechts? Bitten wir ChatGPT, die E-Mail zu untersuchen und herauszufinden, ob leistungsstarke KI helfen kann.

Erstaunlicherweise gelingt es dem erweiterten Modell von ChatGPT hervorragend, auf verschiedene verdächtige Elemente in der E-Mail hinzuweisen:

1. Es gibt einen merkwürdigen Unterschied zwischen dem E-Mail-Absender und dem Namen im Betreff.

2. Verdächtige Tatsache, dass die E-Mail-Adresse des Absenders nichts mit Norton zu tun hat.

3. Angabe einer Telefonnummer für Inhalte – (Genau das hat meine alternde Tante fasziniert. Sie rief die Nummer an und ließ sich überreden, auf ihr Bankkonto zuzugreifen über einen Screencast! 🤦)

ChatGPT weist den Benutzer dann eindeutig darauf hin, sich nicht auf die E-Mail einzulassen. Wow, ich wünschte, meine Tante hätte diesen Vorteil damals haben können!

In einem noch beeindruckenderen Beispiel erhielt ich die E-Mail „EnergyBill“. Im Gegensatz zu meinem vorherigen Post zeigt, wie ChatGPT Details direkt aus einer legitimen Energierechnung extrahieren kann. Hier haben wir ein bösartiges Szenario, in dem der Angreifer „meine Verifizierung abschließen“ für einen Dienst zur Senkung der Energierechnung anfordert.

Auch hier ist es auf den ersten Blick nicht übermäßig verdächtig. Es sieht nach Spam aus, harmlos. Rechts? Mal sehen, was ChatGPT dazu denkt:

Auch hier bin ich von der Qualität der Analyse total beeindruckt. ChatGPT hat Inkonsistenzen bei der Adressierung korrekt festgestellt, wusste und weist auf häufig verwendete Phishing-E-Mail-Taktiken hin. Da ich seit über 30 Jahren E-Mail-Profi bin, stimme ich all diesen Punkten voll und ganz zu. Allerdings war ich von Punkt Nr. 4 in der Liste verwirrt, nämlich mehreren Adressen, die „von „EnergyBill“ verwendet werden. Welche Mehrfachadressen? Ich habe den E-Mail-Quellcode untersucht, um Beweise für diese Behauptung zu finden. War das eine KI-Halluzination? Was hat ChatGPT gesehen, was ich nicht gesehen habe? Dann habe ich auf den Quellenlink geklickt:

Wow! Da waren sie, drei E-Mails von „EnergyBill“. Ich hatte keine Ahnung, dass dies kein Einzelangriff von „EnergyBill“ war; Das war eine Kampagne. ChatGPT schaute sich mein E-Mail-Konto an und erkannte das Gesamtbild, bemerkte die zusätzlichen Einbrüche und nutzte dieses Wissen, um ein weiteres Warnsignal zu identifizieren.

Hut ab vor ChatGPT. Schlauer Keks.

Alle diese Phishing-E-Mails landeten in meinem Gmail-Posteingang, was beeindruckend ist, weil Gmail bösartige Inhalte gut blockiert. Aber die Bösewichte kommen immer durch, sodass selbst die besten Dienste ein ständiges Risiko für ihre Benutzer darstellen. Hier zeigen wir, wie KI Ihr geschultes Auge sein und Sie vor böswilligen Online-Akteuren schützen kann.