Hacker mit Verbindungen zu den Regierungen in Russland, Nordkorea und dem Iran haben sich an chatgpt gewandt, um neue Wege zur Durchführung von Online-Angriffen zu erkunden, sagten OpenAI und Microsoft am Mittwoch.

OpenAI und Microsoft sagten, mit Hackern verknüpfte Konten seien geschlossen worden, da die Unternehmen ihre Bemühungen verstärken, die böswillige Nutzung der beliebten KI-Chatbots durch staatliche Akteure zu verhindern.

Microsoft ist ein wichtiger Geldgeber von OpenAI und nutzt seine KI-Technologie, die als Large Language Models (LLM) bekannt ist, um seine eigenen Apps und Software zu betreiben.

„Das Ziel der Partnerschaft von Microsoft mit OpenAI, einschließlich der Veröffentlichung dieser Forschung, besteht darin, den sicheren und verantwortungsvollen Einsatz von KI-Technologien wie ChatGPT zu gewährleisten“, sagte Microsoft.

Nach Angaben des Unternehmens nutzen Hacker LLMs, um „ihre Ziele und Angriffstechnik voranzutreiben“.

Die Dienste von OpenAI, zu denen auch das weltweit führende GPT-4-Modell gehört, wurden zum „Abfragen von Open-Source-Informationen, Übersetzen, Finden von Codierungsfehlern und Ausführen grundlegender Codierungsaufgaben“ verwendet, sagte das Unternehmen hinter ChatGPT in einem separaten Blogbeitrag.

Laut Microsoft wandte sich Forest Blizzard, eine mit dem russischen Militärgeheimdienst verbundene Gruppe, an LLMs, um „verschiedene Satelliten- und Radartechnologien zu erforschen, die für konventionelle Militäroperationen in der Ukraine relevant sein könnten“.

Der Einsatz sei „repräsentativ für einen Gegner, der die Anwendungsfälle einer neuen Technologie erforscht“, fügte Microsoft hinzu.

Die Arbeit von Emerald Sleet, die mit Nordkorea in Verbindung steht, umfasste Recherchen zu Denkfabriken und Experten, die mit dem kommunistischen Regime in Verbindung stehen, sowie zu Inhalten, die wahrscheinlich in Online-Phishing-Kampagnen verwendet werden.

Crimson Sandstorm, das mit den iranischen Revolutionsgarden verbunden ist, nutzte ChatGPT, um Malware zu programmieren und Fehler zu beheben sowie Tipps für Hacker zu finden, um einer Entdeckung zu entgehen, sagte Microsoft.

OpenAI sagte, die Gefahr sei „begrenzt“, das Unternehmen versuche jedoch, der sich entwickelnden Bedrohung immer einen Schritt voraus zu sein.

„Es gibt eine Handvoll böswilliger Akteure, die ständige Aufmerksamkeit erfordern, damit alle anderen weiterhin von den Vorteilen profitieren können“, sagte OpenAI.