Neu-Delhi: Microsoft und OpenAI gaben am Mittwoch bekannt, dass Hacker große Sprachmodelle (LLMs) wie chatgpt verwenden, um ihre bestehenden Cyber-Angriffstechniken zu verbessern.

Die Unternehmen haben Versuche russischer, nordkoreanischer, iranischer und chinesisch unterstützter Gruppen entdeckt, die Tools wie ChatGPT zur Erforschung von Zielen und zum Aufbau von Social-Engineering-Techniken nutzen.

In Zusammenarbeit mit Microsoft Threat Intelligence hat OpenAI fünf staatsnahen Akteuren das Handwerk gelegt, die KI-Dienste zur Unterstützung böswilliger Cyberaktivitäten nutzen wollten.

„Wir haben zwei mit China verbundene Bedrohungsakteure namens Charcoal Typhoon und Salmon Typhoon gestört. der mit dem Iran verbundene Bedrohungsakteur Crimson Sandstorm; der mit Nordkorea verbundene Schauspieler Emerald Sleet; und der mit Russland verbundene Schauspieler Forest Blizzard“, sagte das von Sam Altman geführte Unternehmen.

Die mit diesen Akteuren verbundenen identifizierten OpenAI-Konten wurden gekündigt. Diese böswilligen Akteure versuchten, OpenAI-Dienste zum Abfragen von Open-Source-Informationen, zum Übersetzen, zum Finden von Codierungsfehlern und zum Ausführen grundlegender Codierungsaufgaben zu nutzen.

„Cyberkriminelle Gruppen, staatliche Bedrohungsakteure und andere Gegner erforschen und testen verschiedene KI-Technologien, sobald sie auftauchen, um den potenziellen Wert für ihre Abläufe und die Sicherheitskontrollen zu verstehen, die sie möglicherweise umgehen müssen“, sagte Microsoft in einer Erklärung .

Während Angreifer weiterhin an der KI interessiert bleiben und die aktuellen Fähigkeiten und Sicherheitskontrollen der Technologien austesten, ist es wichtig, diese Risiken im Kontext zu halten, so das Unternehmen.

„Wie immer sind Hygienepraktiken wie Multifaktor-Authentifizierung (MFA) und Zero-Trust-Abwehrmaßnahmen unerlässlich, da Angreifer möglicherweise KI-basierte Tools verwenden, um ihre bestehenden Cyberangriffe zu verbessern, die auf Social Engineering und dem Auffinden ungesicherter Geräte und Konten beruhen“, bemerkte der Technologieriese.