chatgpt kann durchaus sein Revolutionieren Sie die Websuche, rationalisieren Sie Büroarbeiten und gestalten Sie die Bildung neu, aber der gut sprechende Chatbot hat auch als Social-Media-Krypto-Huckster Arbeit gefunden.

Forscher der Indiana University Bloomington entdeckten im Mai dieses Jahres ein von ChatGPT betriebenes Botnetz, das auf X – dem sozialen Netzwerk, das früher als Twitter bekannt war – operierte.

Das Botnetz, das die Forscher wegen seiner Verbindung zu Kryptowährungs-Websites mit einer Variante desselben Namens Fox8 nennen, bestand aus 1.140 Konten. Viele von ihnen schienen ChatGPT zu nutzen, um Social-Media-Beiträge zu erstellen und auf die Beiträge anderer zu antworten. Der automatisch generierte Inhalt war offenbar darauf ausgelegt, ahnungslose Menschen dazu zu verleiten, auf Links zu den Krypto-Hyping-Seiten zu klicken.

Micah Musser, ein Forscher, der es getan hat untersuchte das Potenzial Für KI-gesteuerte Desinformation ist das Fox8-Botnetz möglicherweise nur die Spitze des Eisbergs, wenn man bedenkt, wie beliebt große Sprachmodelle und Chatbots geworden sind. „Das ist die niedrig hängende Frucht“, sagt Musser. „Es ist sehr, sehr wahrscheinlich, dass es für jede Kampagne, die Sie finden, viele andere gibt, die ausgefeiltere Dinge tun.“

Das Fox8-Botnetz war zwar weitläufig, aber die Verwendung von ChatGPT war sicherlich nicht ausgefeilt. Die Forscher entdeckten das Botnetz, indem sie die Plattform nach dem verräterischen Satz „Als ein KI-Sprachmodell …“ durchsuchten, einer Antwort, die ChatGPT manchmal für Aufforderungen zu sensiblen Themen verwendet. Anschließend analysierten sie manuell Konten, um diejenigen zu identifizieren, die offenbar von Bots betrieben wurden.

„Der einzige Grund, warum uns dieses spezielle Botnetz aufgefallen ist, ist, dass es schlampig war“, sagt er Filippo Menczerein Professor an der Indiana University Bloomington, der die Forschung zusammen mit Kai-Cheng Yang durchführte, einem Studenten, der im kommenden akademischen Jahr als Postdoktorand an die Northeastern University wechseln wird.

Trotz des Ticks veröffentlichte das Botnetz viele überzeugende Botschaften zur Werbung für Kryptowährungsseiten. Die offensichtliche Leichtigkeit, mit der die künstliche Intelligenz von OpenAI offenbar für den Betrug genutzt wurde, bedeutet, dass fortschrittliche Chatbots möglicherweise andere Botnetze betreiben, die noch nicht entdeckt wurden. „Jeder ziemlich gute Bösewicht würde diesen Fehler nicht machen“, sagt Menczer.

OpenAI hatte zum Zeitpunkt der Veröffentlichung noch nicht auf eine Anfrage nach einem Kommentar zum Botnetz geantwortet. Der Nutzungsrichtlinie Denn seine KI-Modelle verbieten deren Verwendung für Betrug oder Desinformation.

ChatGPT und andere hochmoderne Chatbots verwenden sogenannte große Sprachmodelle, um Text als Reaktion auf eine Eingabeaufforderung zu generieren. Mit genügend Trainingsdaten (viele davon aus verschiedenen Quellen im Internet), genügend Computerleistung und Feedback von menschlichen Testern können Bots wie ChatGPT auf überraschend raffinierte Weise auf eine Vielzahl von Eingaben reagieren. Gleichzeitig können sie auch mit Hassbotschaften herausplatzen, soziale Vorurteile an den Tag legen und Dinge erfinden.

Ein korrekt konfiguriertes ChatGPT-basiertes Botnetz wäre schwer zu erkennen, geeigneter, Benutzer zu täuschen und die Algorithmen, die zur Priorisierung von Inhalten in sozialen Medien verwendet werden, effektiver auszutricksen.

„Es täuscht sowohl die Plattform als auch die Benutzer“, sagt Menczer über das von ChatGPT betriebene Botnetz. Und wenn ein Social-Media-Algorithmus feststellt, dass ein Beitrag viel Engagement auslöst – selbst wenn dieses Engagement von anderen Bot-Konten stammt – wird er den Beitrag mehr Menschen zeigen. „Genau deshalb verhalten sich diese Bots so“, sagt Menczer. Und Regierungen, die Desinformationskampagnen durchführen wollen, entwickeln oder setzen höchstwahrscheinlich bereits solche Tools ein, fügt er hinzu.