Wenn Sie im letzten Jahr oder so einen Anstieg verdächtig aussehender E-Mails bemerkt haben, könnte dies teilweise auf einen unserer beliebtesten KI-Chatbots zurückzuführen sein – chatgpt. Ich weiß – viele von uns haben intime und private Gespräche geführt, in denen wir mit ChatGPT mehr über uns selbst erfahren haben, und wir wollen nicht glauben, dass ChatGPT uns dabei helfen würde, uns zu betrügen.
Laut der Cybersicherheitsfirma SlashNextChatGPT und seine KI-Kohorten werden genutzt, um Phishing-E-Mails in beschleunigtem Tempo zu versenden. Der Bericht basiert auf der Bedrohungsexpertise des Unternehmens und befragte mehr als dreihundert Cybersicherheitsexperten in Nordamerika. Es wird nämlich behauptet, dass bösartige Phishing-E-Mails seit dem vierten Quartal 2022 um 1.265 % zugenommen haben – insbesondere Credential-Phishing, das um 967 % zunahm. Credential-Phishing zielt auf Ihre persönlichen Daten wie Benutzernamen, IDs, Passwörter oder persönliche Pins ab, indem es sich als ein ausgibt vertrauenswürdige Personen, Gruppen oder Organisationen über E-Mails oder einen ähnlichen Kommunikationskanal erreichen.
Böswillige Akteure nutzen generative künstliche Intelligenz-Tools wie ChatGPT, um ausgefeilte und zielgerichtete Phishing-Nachrichten zu verfassen. Neben Phishing sind Business Email Compromise (BEC)-Nachrichten eine weitere häufige Art von Cyberkriminalität, die darauf abzielt, Unternehmen um Finanzen zu betrügen. Der Bericht kommt zu dem Schluss, dass diese KI-gestützten Bedrohungen mit rasender Geschwindigkeit zunehmen, ihr Volumen und ihre Komplexität rasch zunehmen.
Aus dem Bericht geht hervor, dass es durchschnittlich 31.000 Phishing-Angriffe pro Tag gibt und etwa die Hälfte der befragten Cybersicherheitsexperten berichteten, einen BEC-Angriff erhalten zu haben. Was Phishing betrifft, gaben 77 % dieser Fachleute an, Phishing-Angriffe erhalten zu haben.
Die Experten wägen ab
Patrick Harr, CEO von SlashNext, teilte mit dass diese Ergebnisse „die Bedenken hinsichtlich des Einsatzes generativer KI, die zu einem exponentiellen Wachstum von Phishing beiträgt, festigen.“ Er führte aus, dass die generative KI-Technologie es Cyberkriminellen ermöglicht, ihre Angriffsgeschwindigkeit zu steigern und gleichzeitig die Vielfalt ihrer Angriffe zu erhöhen. Sie können Tausende von Social-Engineering-Angriffen mit Tausenden von Variationen hervorrufen – und Sie müssen nur auf eine hereinfallen.
Harr weist weiterhin auf ChatGPT hin, das gegen Ende des letzten Jahres ein enormes Wachstum verzeichnete. Er geht davon aus, dass generative KI-Bots Anfängern den Einstieg in das Phishing- und Betrugsspiel erheblich erleichtert haben und nun zu einem zusätzlichen Werkzeug im Arsenal der Erfahreneren und Erfahreneren geworden sind, die ihre Angriffe nun skalieren und gezielter angreifen können leicht. Diese Tools können dazu beitragen, überzeugendere und überzeugender formulierte Nachrichten zu generieren, von denen Betrüger hoffen, dass sie Menschen direkt ansprechen.
Chris Steffen, Forschungsdirektor bei Enterprise Management Associates, bestätigte dies Als er mit CNBC sprach, erklärte er: „Vorbei sind die Tage des ‚Prinz von Nigeria‘.“ Er führte weiter aus, dass E-Mails mittlerweile „äußerst überzeugend und seriös klingen“. Schlechte Schauspieler ahmen andere in Ton und Stil überzeugend nach und imitieren sie oder versenden sogar offiziell aussehende Korrespondenz, die aussieht, als käme sie von Regierungsbehörden und Finanzdienstleistern. Sie können dies besser als zuvor tun, indem sie KI-Tools verwenden, um die Schriften und öffentlichen Informationen von Einzelpersonen oder Organisationen zu analysieren, um ihre Nachrichten so anzupassen, dass ihre E-Mails und Kommunikation wie echt aussehen.
Darüber hinaus gibt es Hinweise darauf, dass diese Strategien für schlechte Akteure bereits Früchte tragen. Harr bezieht sich auf Der Internet Crime Report des FBI, wo behauptet wird, dass BEC-Angriffe Unternehmen rund 2,7 Milliarden US-Dollar gekostet haben, hinzu kommen Verluste in Höhe von 52 Millionen US-Dollar durch andere Arten von Phishing. Der Hauptweg ist lukrativ und Betrüger werden zusätzlich motiviert, ihre Phishing- und BEC-Bemühungen zu vervielfachen.
Was nötig ist, um die Bedrohungen zu untergraben
Einige Experten und Technologiegiganten wehren sich mit Amazon, google, Meta und Microsoft haben zugesagt, Tests zur Bekämpfung von Cybersicherheitsrisiken durchzuführen. Unternehmen nutzen KI auch defensiv, um ihre Erkennungssysteme, Filter usw. zu verbessern. Harr bekräftigte, dass die Untersuchungen von SlashNext jedoch unterstreichen, dass dies durchaus gerechtfertigt ist, da Cyberkriminelle bereits Tools wie ChatGPT verwenden, um diese Angriffe durchzuführen.
SlashNext hat im Juli ein bestimmtes BEC gefunden, das ChatGPT zusammen mit WormGPT nutzte. WormGPT ist ein Tool zur Cyberkriminalität Dies wird laut Harr als „Black-Hat-Alternative zu GPT-Modellen, die speziell für böswillige Aktivitäten wie das Erstellen und Starten von BEC-Angriffen entwickelt wurde“ beworben. Berichten zufolge ist auch ein weiterer bösartiger Chatbot, FraudGPT, im Umlauf. Laut Harr wurde FraudGPT als „exklusives“ Tool beworben, das auf Betrüger, Hacker, Spammer und ähnliche Personen zugeschnitten ist und über eine umfangreiche Liste von Funktionen verfügt.
Ein Teil der Forschung von SlashNext befasste sich mit der Entwicklung von KI-„Jailbreaks“, bei denen es sich um ziemlich genial konzipierte Angriffe auf KI-Chatbots handelt, die, wenn sie eingegeben werden, die Aufhebung der Sicherheits- und Legalitätsleitplanken von KI-Chatbots bewirken. Dies ist auch ein wichtiger Forschungsbereich an vielen KI-bezogenen Forschungseinrichtungen.
Wie Unternehmen und Nutzer vorgehen sollten
Wenn Sie das Gefühl haben, dass dies beruflich oder privat eine ernsthafte Bedrohung darstellen könnte, haben Sie Recht – aber es ist nicht alles hoffnungslos. Cybersicherheitsexperten engagieren sich und überlegen, wie sie diesen Angriffen entgegenwirken und darauf reagieren können. Eine Maßnahme, die viele Unternehmen durchführen, ist die kontinuierliche Aufklärung und Schulung der Endbenutzer, um festzustellen, ob Mitarbeiter und Benutzer tatsächlich von diesen E-Mails überrascht werden.
Aufgrund des gestiegenen Aufkommens verdächtiger und gezielter E-Mails kann es sein, dass eine Erinnerung hier und da nicht mehr ausreicht und Unternehmen jetzt sehr beharrlich daran arbeiten müssen, das Sicherheitsbewusstsein der Benutzer zu schärfen. Endbenutzer sollten nicht nur daran erinnert, sondern auch dazu ermutigt werden, E-Mails zu melden, die betrügerisch aussehen, und ihre Sicherheitsbedenken zu besprechen. Dies gilt nicht nur für Unternehmen und die unternehmensweite Sicherheit, sondern auch für uns als einzelne Benutzer. Wenn Technologiegiganten wollen, dass wir ihren E-Mail-Diensten für unsere persönlichen E-Mail-Bedürfnisse vertrauen, müssen sie ihre Abwehrmaßnahmen auf diese Weise weiter ausbauen.
Neben diesem kulturellen Wandel in Unternehmen und Firmen betont Steffen auch die Bedeutung von E-Mail-Filtertools, die KI-Funktionen integrieren und dabei helfen können, zu verhindern, dass bösartige Nachrichten überhaupt an Benutzer gelangen. Es ist ein ständiger Kampf, der regelmäßige Tests und Prüfungen erfordert, da sich Bedrohungen ständig weiterentwickeln und sich die Fähigkeiten von KI-Software verbessern, auch die Bedrohungen, die sie nutzen.
Unternehmen müssen ihre Sicherheitssysteme verbessern und keine einzelne Lösung kann alle Gefahren, die von KI-generierten E-Mail-Angriffen ausgehen, vollständig bewältigen. Steffen führt aus, dass eine Zero-Trust-Strategie dazu beitragen kann, durch die Angriffe verursachte Kontrolllücken zu schließen und den meisten Unternehmen eine Verteidigungsstrategie zu bieten. Einzelne Benutzer sollten sich der Möglichkeit von Phishing und Tricks bewusster sein, da diese zugenommen haben.
Es kann leicht passieren, dass wir in Bezug auf diese Art von Themen pessimistisch sind, aber wir können vorsichtiger sein, was wir anklicken. Nehmen Sie sich einen Moment Zeit und schauen Sie sich dann noch einmal alle Informationen an. Sie können sogar nach der E-Mail-Adresse suchen, von der Sie eine bestimmte E-Mail erhalten haben, und sehen, ob jemand anderes Probleme damit hatte. Es ist eine knifflige Spiegelwelt im Internet, und es lohnt sich immer mehr, den Überblick zu behalten.
