Im Bereich der künstlichen Intelligenz hat der Aufstieg generativer KI-Tools wie chatgpt von OpenAI bittersüße Reaktionen hervorgerufen. In letzter Zeit ist jedoch eine dunklere Seite dieser Technologie zutage getreten, da WormGPT als Konkurrent von ChatGPT eingeführt wurde. Ähnlich wie sein Konkurrent ist auch WormGPT ein generatives KI-Tool. Anstatt die Dialoggenerierung zu unterstützen, wurde es von Cyberkriminellen aus böswilligen Gründen eingesetzt.
SlashNext wurde 2015 von Atif Mushtaq gegründet und ist ein Cybersicherheitsunternehmen, das künstliche Intelligenz und Verhaltensanalysen nutzt, um raffinierte Mehrkanal-Phishing-Angriffe zu erkennen und abzuwehren. Während es einen erheblichen Anstieg von Phishing, sich verändernden Nutzlasten und der festen Überzeugung gibt, dass sich Phishing von E-Mail zu einem Multi-Channel-Problem entwickeln und zur Cyber-Bedrohung Nummer eins für Unternehmen werden wird. Man erkannte, dass sich etwas ändern musste.
Atif Mushtaq, der visionäre Gründer von SlashNext und einer der Hauptarchitekten der Kern-Malware-Sandbox-Technologie von FireEye, erkannte, dass die Phishing-Erkennung wie Malware von signaturbasierten Reputationstechniken zur Verhaltensanalyse übergehen musste. Benötigt wurde ein schnellerer, automatisierterer und genauerer Ansatz zur Phishing-Erkennung. Mit diesem Wissen hat SlashNext eine Phishing-Erkennungs-Engine mit künstlicher Intelligenz (KI) mit virtuellen Browsern und Verhaltensanalysen mithilfe von Computer Vision, Verarbeitung natürlicher Sprache und mehreren Klassifikatoren für maschinelles Lernen entwickelt, um gut gestaltete Phishing-Angriffe mit mehreren Nutzlasten zu erkennen und zu stoppen, die mehrere Kommunikationen ermöglichten Kanäle, einschließlich legitimer Infrastruktur.
Da sich die Menschen heute vollständig in die Cloud verlagert haben und über Apps, Browser und Mobilgeräte mit der Arbeit, der Familie und Freunden kommunizieren, ist SlashNext hervorragend positioniert, um Multi-Channel-Phishing und menschliches Hacking zu stoppen.
Im Gegensatz zu ChatGPT wird WormGPT angeblich auf eine Vielzahl von Daten trainiert, wobei ein besonderer Schwerpunkt auf Malware-bezogenen Informationen liegt. Dieses spezielle Training macht es zu einer effizienten Waffe im Arsenal von Cyberkriminellen und stattet sie mit der Fähigkeit aus, personalisierte, irreführende E-Mails zu generieren.
WormGPT erbt einige bemerkenswerte Funktionen von seinem Basismodell GPT-J. Zu diesen Funktionen gehört die Möglichkeit, eine unbegrenzte Anzahl von Zeichen zu unterstützen, den Chat-Speicher beizubehalten und Funktionen zur Codeformatierung anzubieten. Zusammengenommen machen diese Funktionen das Tool zu einem potenziellen Verbündeten für diejenigen, die anspruchsvolle Phishing- oder BEC-Angriffe (Business Email Compromise) ausführen möchten.
Die Auswirkungen auf das wirkliche Leben
Die Existenz und der Einsatz von WormGPT stellen eine erhebliche Bedrohung für die Cyberwelt dar. Von SlashNext durchgeführte Tests zeigten, wie effektiv dieses KI-Modell genutzt werden kann, um überzeugende Phishing-Versuche zu entwickeln. Beispielsweise war die KI in der Lage, eine E-Mail zu generieren, die einen ahnungslosen Kundenbetreuer dazu verleitete, eine betrügerische Rechnung zu bezahlen, was das Potenzial solcher Tools bei böswilliger Nutzung demonstrierte.
Die Realität KI-generierter Angriffe verdeutlicht auch eine alarmierende Entwicklung: die Demokratisierung fortgeschrittener BEC-Angriffe. Da Tools wie WormGPT leicht verfügbar sind, können selbst Cyberkriminelle mit begrenzten Fähigkeiten raffinierte Angriffe durchführen. Darüber hinaus können diese KI-Tools grammatikalisch einwandfreie E-Mails generieren, wodurch die Wahrscheinlichkeit verringert wird, dass sie als verdächtig gekennzeichnet werden, und dadurch die Wahrscheinlichkeit erfolgreicher Angriffe erhöht wird.
WormGPT vs. ChatGPT
WormGPT als „dunkler Zwilling“ von ChatGPT ist ein Hinweis darauf, wie KI-Technologie für illegale Aktivitäten angepasst werden kann. Während ChatGPT und ähnliche Tools mit Schutzmaßnahmen ausgestattet sind, die verhindern, dass sie zu schädlichen Aktionen ermutigen oder sich daran beteiligen, wurde WormGPT explizit für diese Aktivitäten entwickelt.
Die Einführung von WormGPT rückt die Realität in den Fokus, dass mit dem technologischen Fortschritt auch das Risiko einer Zweckentfremdung dieser Tools einhergeht. Dies unterstreicht einmal mehr die Notwendigkeit von Wachsamkeit, fundierten Cybersicherheitsstrategien und einem kontinuierlichen Engagement, sich an neue Herausforderungen anzupassen. In diesem sich ständig verändernden digitalen Bereich informiert und wachsam zu bleiben, ist die beste Lösung, um sichere digitale Räume für uns und unsere Unternehmen als Unternehmer und Fachleute in diesem Bereich zu schaffen.
