(AFP, San Francisco, 30.) Der chatgpt-Entwickler OpenAI sagte heute, dass OpenAI in den letzten drei Monaten fünf verdeckte Einflussoperationen gestört habe, bei denen versucht wurde, die künstliche Intelligenz (KI) von OpenAI zu nutzen, um die öffentliche Meinung auf der ganzen Welt zu manipulieren und geopolitische Beziehungen zu beeinflussen . Politik.
OpenAI sagte in einem Blogbeitrag, dass die kompromittierten Aktivitäten von Russland, China, dem Iran und einem privaten Unternehmen mit Sitz in Israel stammten.
Bedrohungsakteure versuchen, die leistungsstarken Sprachmodelle von OpenAI für Aufgaben wie das Generieren von Kommentaren, Artikeln, Social-Media-Profilen und das Debuggen von Bots und Website-Code zu nutzen.
Sam Altman, CEO von OpenAI, sagte, die Maßnahmen „scheinen nicht dazu beigetragen zu haben, das Engagement des Publikums wesentlich zu steigern oder das Publikum für unseren Dienst zu erweitern.“
Unternehmen wie OpenAI stehen unter Beobachtung, da befürchtet wird, dass Anwendungen wie ChatGPT oder das Bildgenerierungstool Dall-E innerhalb von Sekunden irreführende Inhalte produzieren könnten.
Angesichts der bevorstehenden großen Wahlen auf der ganzen Welt ist es besonders besorgniserregend, dass Länder wie Russland, China und der Iran verdeckte Social-Media-Operationen nutzen, um die Spannungen vor dem Wahltag zu eskalieren.
Bei einer solchen Operation mit dem Namen „Bad Grammar“ handelte es sich um eine bisher nicht gemeldete russische Operation gegen die Ukraine, Moldawien, die baltischen Staaten und die Vereinigten Staaten. Diese Operation nutzt OpenAI-Modelle und -Tools, um kurze politische Kommentare auf Russisch und Englisch auf Telegram zu verfassen.
Darüber hinaus nutzt die russische „Doppelgänger“-Operation KI, um auf Plattformen wie Social Media X Kommentare in Englisch, Französisch, Deutsch, Italienisch, Polnisch und anderen Sprachen zu verfassen.
OpenAI stoppte auch Chinas Einflussoperation „Spamouflage“, bei der OpenAI-Modelle missbraucht wurden, um Social-Media-Aktivitäten zu untersuchen, Beiträge in mehreren Sprachen zu schreiben und Website-Code zu debuggen.
