X, die Social-Media-Plattform von Elon Musk, die früher als Twitter bekannt war, hat eine erhebliches Problem mit gefälschten Konten. Die Verbreitung von Bots im sozialen Netzwerk wurde von Musk selbst eingeräumt, da er sie ursprünglich als Hauptgrund nannte versuchte auszuweichen der Übernahme des Unternehmens.
Und neue Forschung Bloomington vom Observatory on Social Media an der Indiana University zeichnet ein gutes Bild eines genau solchen Bot-Netzwerks, das auf Verdrahtet der als Erster über die Forschung berichtete.
Die Forscher entdeckten erst im vergangenen Mai ein Netzwerk von mindestens 1.140 gefälschten Twitter-Konten, die ständig Tweets posteten, die auf eine Reihe von Spam-No-Name-Online-„Nachrichten“-Websites verlinkten, auf denen lediglich von seriösen Plattformen stammende Inhalte erneut veröffentlicht wurden.
Die überwiegende Mehrheit der von diesem Netzwerk von Bot-Konten veröffentlichten Beiträge bezog sich auf Kryptowährungen und enthielt oft Hashtags wie #bitcoin, #crypto und #web3. Die Konten retweeteten auch häufig oder antworteten beliebten Krypto-Benutzern auf Twitter, wie z. B. @WatcherGuru, @crypto und @ForbesCrypto.
Viele ältere Twitter-Beiträge wurden durch einen Fehler gelöscht
Wie konnte ein Bot-Netzwerk mit mehr als tausend Konten so viel posten? Es nutzte KI, in diesem Fall insbesondere chatgpt, um genau zu automatisieren, was gepostet wurde. Der Zweck dieser KI-generierten Beiträge schien darin zu bestehen, Twitter mit möglichst vielen Krypto-Hyping-Links zuzuspammen, um so viele legitime Benutzer wie möglich zu erreichen, in der Hoffnung, dass sie auf die URLs klicken würden.
Laut Wired wurden die Konten von X schließlich gesperrt, nachdem die Untersuchung im Juli veröffentlicht worden war. Menczer sagt, dass seine Forschungsgruppe Twitter früher über solche Botnetze informiert habe, dies aber nach der Übernahme von Musk eingestellt habe, da sie festgestellt hätten, dass das Unternehmen „nicht mehr wirklich reaktionsfähig“ sei.
Während KI-Tools wie ChatGPT dem Botnet-Besitzer dabei halfen, Inhalte für Tausende von Konten bereitzustellen, bedeutete dies letztendlich auch seinen Untergang.
Laut der veröffentlichten Studie stellten die Forscher bei diesen Konten ein mögliches Muster fest: Sie posteten Tweets, die mit der Phrase „als KI-Sprachmodell“ begannen. ChatGPT-Benutzer werden mit diesem Ausdruck vertraut sein, da der KI-Assistent ihn häufig als Ergänzung zu jeder von ihm bereitgestellten Ausgabe bereitstellt und der Meinung ist, dass potenzielle Probleme auftreten können, da es sich einfach um ein KI-Sprachmodell handelt.
Die Forscher wiesen darauf hin, dass das Botnetz ohne diesen „schlampigen“ Fehler möglicherweise unentdeckt geblieben wäre.
