Sicherheitsforscher haben nach Erkenntnissen des Digital Footprint Intelligence-Dienstes von Kaspersky im Jahr 2023 einen deutlichen Anstieg von Dark-Web-Diskussionen über die illegale Nutzung von chatgpt und anderen Large Language Models (LLMs) beobachtet.
Es wurden fast 3.000 Dark-Web-Beiträge identifiziert, die sich auf ein Spektrum von Cyber-Bedrohungen konzentrierten, von der Erstellung bösartiger Chatbot-Versionen bis hin zur Erkundung alternativer Projekte wie XXXGPT und FraudGPT.
Während der Höhepunkt der Diskussionen im März letzten Jahres zu verzeichnen war, deuten die laufenden Diskussionen auf ein anhaltendes Interesse an der Nutzung von KI-Technologien für illegale Aktivitäten hin.
Nach Angaben von Kaspersky mit InformationssicherheitCyberkriminelle erforschen aktiv verschiedene Schemata zur Implementierung von ChatGPT und KI, einschließlich der Entwicklung von Malware und der illegalen Verwendung von Sprachmodellen.
„Bedrohungsakteure erforschen aktiv verschiedene Schemata zur Implementierung von ChatGPT und KI. Zu den Themen gehören häufig die Entwicklung von Malware und andere Arten der illegalen Verwendung von Sprachmodellen, etwa die Verarbeitung gestohlener Benutzerdaten, das Parsen von Dateien von infizierten Geräten und mehr“, erklärt Alisa Kulishenko, Analystin für digitale Fußabdrücke bei Kaspersky.
Der Sicherheitsexperte fügte hinzu, dass die Verbreitung von KI-Tools auch dazu geführt habe, dass in einigen Cyberkriminalitätsforen automatisierte Antworten von ChatGPT oder seinen Äquivalenten integriert wurden.
„Darüber hinaus neigen Bedrohungsakteure dazu, Jailbreaks über verschiedene Dark-Web-Kanäle zu teilen – spezielle Eingabeaufforderungen, die zusätzliche Funktionen freischalten können – und Wege zu entwickeln, um legitime Tools, beispielsweise für Penetrationstests, auf der Grundlage von Modellen für böswillige Zwecke auszunutzen.“ Sagte Kulishenko.
Lesen Sie mehr über ChatGPT-fähige Angriffe: Neue ChatGPT-Angriffstechnik verbreitet schädliche Pakete
Ein weiterer besorgniserregender Aspekt von Kaspersky enthüllt ist der Markt für gestohlene ChatGPT-Konten, mit weiteren 3000 Posts, die diese Konten im Dark Web zum Verkauf anbieten. Dieser Markt stellt eine erhebliche Bedrohung für Benutzer und Unternehmen dar, da Beiträge entweder gestohlene Konten verbreiten oder automatische Registrierungsdienste fördern, die auf Anfrage massenhaft Konten erstellen.
Als Reaktion auf diese Erkenntnisse empfahl Kaspersky die Implementierung zuverlässiger Endpoint-Sicherheitslösungen und dedizierter Dienste, um hochkarätige Angriffe zu bekämpfen und mögliche Folgen zu minimieren.
Bildnachweis: photosince / Shutterstock.com
