Ein Black-Hat-Hacker hat eine bösartige Version von OpenAIs chatgpt namens WormGPT veröffentlicht, die dann genutzt wurde, um einen effektiven E-Mail-Phishing-Angriff auf Tausende von Opfern zu starten.

Laut a ist WormGPT, das auf dem von EleutherAI entwickelten großen Sprachmodell 2021 GPTJ basiert, speziell für böswillige Aktivitäten konzipiert Bericht von der Cybersicherheitsfirma SlashNext. Zu den Funktionen gehören unbegrenzte Zeichenunterstützung, Beibehaltung des Chat-Speichers und Codeformatierung, und WormGPT wurde auf Malware-bezogene Datensätze trainiert.

Cyberkriminelle nutzen WormGPT nun, um eine Art Phishing-Angriff zu starten, der als Business Email Compromise (BEC)-Angriff bekannt ist.

„Der Unterschied [from WormGPT] „ChatGPT verfügt über Schutzmaßnahmen zum Schutz vor rechtswidrigen oder schändlichen Anwendungsfällen“, sagte Chief Operating Officer eines Blockchain-Sicherheitsunternehmens Halborn David Schwed erzählte Entschlüsseln auf Telegram. „[WormGPT] verfügt nicht über diese Leitplanken, daher können Sie es bitten, Malware für Sie zu entwickeln.“

Phishing-Angriffe gehören zu den ältesten und zugleich häufigsten Formen von Cyberangriffen und werden häufig per E-Mail, SMS oder Social-Media-Beiträgen unter falschem Namen ausgeführt. Bei einem geschäftlichen E-Mail-Kompromittierungsangriff gibt sich ein Angreifer als Führungskraft oder Mitarbeiter eines Unternehmens aus und bringt das Ziel dazu, Geld oder vertrauliche Informationen zu senden.

Dank der rasanten Fortschritte in der generativen KI können Chatbots wie ChatGPT oder WormGPT überzeugende, menschenähnliche E-Mails schreiben, wodurch betrügerische Nachrichten schwerer zu erkennen sind.

SlashNext sagt, dass Technologien wie WormGPT die Messlatte für die Durchführung effektiver BEC-Angriffe senken, weniger erfahrene Angreifer stärken und so einen größeren Pool an potenziellen Cyberkriminellen schaffen.

Um sich vor geschäftlichen E-Mail-Kompromittierungsangriffen zu schützen, empfiehlt SlashNext Unternehmen die Verwendung einer erweiterten E-Mail-Verifizierung, einschließlich automatischer Benachrichtigungen für E-Mails, die sich als interne Zahlen ausgeben, und der Kennzeichnung von E-Mails mit Schlüsselwörtern wie „dringend“ oder „Überweisung“, die typischerweise mit BEC zu tun haben.

Angesichts der ständig wachsenden Bedrohung durch Cyberkriminelle suchen Unternehmen ständig nach Möglichkeiten, sich und ihre Kunden zu schützen.

Im März brachte Microsoft – einer der größten Investoren des ChatGPT-Entwicklers OpenAI – ein sicherheitsorientiertes generatives KI-Tool namens Security Copilot auf den Markt. Security Copilot nutzt KI, um die Cybersicherheitsabwehr und die Bedrohungserkennung zu verbessern.

„In einer Welt, in der es 1.287 Passwortangriffe pro Sekunde gibt, haben fragmentierte Tools und Infrastruktur nicht ausgereicht, um Angreifer aufzuhalten“, sagte Microsoft seine Ankündigung. „Und obwohl die Angriffe in den letzten fünf Jahren um 67 % zugenommen haben, war die Sicherheitsbranche nicht in der Lage, genügend Cyberrisiko-Experten einzustellen, um Schritt zu halten.“

SlashNext hat noch nicht geantwortet Entschlüsseln Bitte um Stellungnahme.