Im Mai dieses Jahres entdeckten Forscher der Indiana University ein auf chatgpt basierendes Botnetz im sozialen Netzwerk X (damals Twitter). Das Botnetz, das aufgrund seiner Verbindung mit gleichnamigen Kryptowährungsseiten den Namen Fox8 erhielt, bestand aus 1.140 Konten. Viele von ihnen nutzten ChatGPT, um Beiträge im sozialen Netzwerk zu erstellen und gegenseitig auf Beiträge zu antworten. Der automatisch generierte Inhalt ermutigte ahnungslose Menschen dazu, auf Links zu Websites zu klicken, die für Kryptowährungen werben.

Bildquelle: unsplash.com

Experten sind sich sicher, dass das Fox8-Botnetz nur sein kann Tipp Eisberg, wenn man bedenkt, wie beliebt große Sprachmodelle und Chatbots geworden sind. „Der einzige Grund, warum wir dieses spezielle Botnetz bemerkt haben, ist, dass es schlampig lief.“, — sagte der Professor der Indiana University Filippo Menczer (Filippo Menczer). Forscher entdeckten das Botnetz, indem sie die Plattform nach einer Passphrase durchsuchten „Als Sprachmodell der KI…“, das ChatGPT manchmal für Tipps zu sensiblen Themen verwendet. Anschließend analysierten sie die Konten manuell und identifizierten diejenigen, die von Bots kontrolliert wurden.

Trotz seiner „Nachlässigkeit“ hat das Botnetz viele überzeugende Botschaften veröffentlicht, die Kryptowährungsseiten bewerben. Die offensichtliche Leichtigkeit, mit der OpenAI-KI für Betrug ausgenutzt werden kann, bedeutet, dass fortschrittliche Botnetze KI-basierte Chatbots auf ausgefeiltere Weise nutzen können, ohne entdeckt zu werden. „Kein guter Bösewicht würde so einen Fehler machen“scherzt Menzer.

ChatGPT und andere Chatbots verwenden große Sprachmodelle, um Text als Antwort auf eine Anfrage zu generieren. Mit ausreichend Trainingsdaten, enormer Rechenleistung und dem Feedback menschlicher Tester können diese Bots bemerkenswert gut auf eine Vielzahl von Eingaben reagieren. Sie können aber auch Hassbotschaften übermitteln, soziale Vorurteile zum Ausdruck bringen, fiktive Informationen generieren und Hackern bei der Erstellung von Malware helfen.

Siehe auch  Apple entfernt mehr als 100 ChatGPT-Äquivalente aus dem chinesischen App Store

Bildquelle: Pixabay

„Es täuscht sowohl die Plattform als auch die Benutzer“, sagt Mentzer über das ChatGPT-basierte Botnetz. Wenn der Social-Media-Algorithmus erkennt, dass ein Beitrag sehr beliebt ist (auch wenn diese Aktivität von anderen Bots stammt), wird er den Beitrag mehr Menschen zeigen. Regierungen und Organisationen, die Desinformationskampagnen durchführen wollen, entwickeln oder implementieren wahrscheinlich bereits solche Tools, sagte Menzer.

Forscher waren schon lange besorgt, dass die Technologie hinter ChatGPT ein Risiko für Fehlinformationen darstellen könnte, und OpenAI verzögerte aufgrund dieser Bedenken sogar die Veröffentlichung der nächsten Version des Systems. William Wang, Professor an der University of California, glaubt, dass viele Spam-Seiten mittlerweile automatisch generiert werden, und gibt an, dass es für Menschen immer schwieriger wird, solches Material zu erkennen, da sich die KI verbessert.

Wangs Labor hat eine Methode zur automatischen Erkennung von von ChatGPT generiertem Text entwickelt. Die Implementierung ist jedoch teuer, da sie die OpenAI-API verwendet und die zugrunde liegende KI ständig verbessert wird. X kann eine fruchtbare Plattform zum Testen solcher Tools sein. Mentzer argumentiert, dass die Aktivität bösartiger Bots in letzter Zeit dramatisch zugenommen habe und es für Forscher aufgrund der stark gestiegenen Preise für die Nutzung der API des sozialen Netzwerks schwieriger geworden sei, das Problem zu untersuchen.

Das Fox8-Botnetz wurde erst entfernt, nachdem die Forscher im Juli einen Artikel veröffentlicht hatten, obwohl sie dies bereits im Mai gemeldet hatten. Mentzer behauptet, seine Gruppe habe X nicht mehr über ihre Botnet-Forschung informiert. „Sie reagieren nicht sehr. er sagt. — Sie haben nicht wirklich Personal.

Es ist eine grundlegende Richtlinie von KI-Modellierern, Chatbots nicht für Betrug oder Fehlinformationen zu verwenden. OpenAI hat das Botnetz, das ChatGPT verwendet, noch nicht kommentiert.