Das Cybersicherheitsunternehmen Sophos hat kürzlich zwei Berichte über den Einsatz von KI bei Cyberkriminalität veröffentlicht. Der erste Bericht „Die dunkle Seite der KI: Groß angelegte Betrugskampagnen durch generative KI ermöglicht“ zeigt, wie Betrüger in Zukunft Technologien wie chatgpt nutzen könnten, um mit minimalen technischen Fähigkeiten Betrug in großem Umfang durchzuführen. Der zweite Bericht mit dem Titel „Cyberkriminelle können sich nicht auf GPTs einigen“ kam jedoch zu dem Schluss, dass einige Cyberkriminelle trotz des Potenzials von KI skeptisch und sogar besorgt darüber sind, KI für ihre Angriffe zu nutzen, anstatt große Sprachmodelle (LLMs) wie ChatGPT zu nutzen . Nachfolgend finden Sie eine kurze Aufschlüsselung beider Berichte von Sophos.

Die dunkle Seite der KI

Mithilfe einer einfachen E-Commerce-Vorlage und LLM-Tools wie GPT-4 konnte Sophos um die Anmeldedaten und Kreditkartendaten der Benutzer zu stehlen. Für die Erstellung und den Betrieb der Website waren nur minimale technische Kenntnisse erforderlich, und mit demselben Tool war Sophos X-Ops in der Lage, innerhalb von Minuten mit nur einem Knopfdruck Hunderte ähnlicher Websites zu erstellen.

„Es ist für Kriminelle selbstverständlich – und wird erwartet –, dass sie zur Automatisierung auf neue Technologien zurückgreifen. Die ursprüngliche Erstellung von Spam-E-Mails war ein entscheidender Schritt in der Betrugstechnologie, da sie das Ausmaß des Spielfelds veränderte“, sagte Ben Gelman, leitender Datenwissenschaftler bei Sophos. Gelman fügte hinzu, dass neue KIs bereit seien, dasselbe zu tun; Wenn es eine KI-Technologie gibt, die vollständige, automatisierte Bedrohungen erzeugen kann, werden die Menschen sie irgendwann nutzen.

Gelman fügte weiter hinzu: „Einer der Gründe, warum wir diese Untersuchung durchgeführt haben, war jedoch, den Kriminellen einen Schritt voraus zu sein. Durch die Schaffung eines Systems zur groß angelegten Erstellung betrügerischer Websites, das fortschrittlicher ist als die Tools, die Kriminelle derzeit verwenden, verfügen wir über ein einzigartiges System.“ Gelegenheit, die Bedrohung zu analysieren und sich darauf vorzubereiten, bevor sie sich ausbreitet.“

Cyberkriminelle können sich nicht auf GPTs einigen

Für seine Untersuchungen zur Einstellung von Angreifern gegenüber KI untersuchte Sophos X-Ops vier prominente Dark-Web-Foren für LLM-bezogene Diskussionen. Während der Einsatz von KI durch Cyberkriminelle offenbar noch in den Kinderschuhen steckt, diskutieren Bedrohungsakteure im Dark Web über das Potenzial für Social Engineering. Sophos X-Ops hat bereits den Einsatz von KI bei romantischen Krypto-Betrügereien beobachtet.

Darüber hinaus stellte Sophos Sophos Allerdings reagierten die Bedrohungsakteure unterschiedlich auf diese Derivate und andere böswillige Anwendungen von LLMs, wobei viele Kriminelle ihre Besorgnis darüber äußerten, dass die Ersteller der ChatGPT-Nachahmer versuchten, sie zu betrügen.