Obwohl allen klar ist, dass das Problem der durch KI erzeugten falschen Informationen sehr weit verbreitet ist, verstehen sie nicht, wie einfach und kostengünstig es ist, solche falschen Informationen mit generativer KI in „Massenproduktion“ zu produzieren. Um diesen Punkt hervorzuheben und zu beweisen, haben die Entwickler eigens das Projekt „CounterCloud“ ins Leben gerufen und dabei OpenAI-Technologien wie ChatGPT genutzt, um in nur zwei Monaten eine KI-„Desinformationsmaschine“ zu bauen, deren monatliche Betriebskosten weniger als 400 US-Dollar betragen.

Ein Cybersicherheitsexperte, der unter dem Online-Pseudonym Nea Paw bekannt ist, hat auf YouTube Videos gepostet, in denen erklärt wird, wie und warum das Projekt durchgeführt wurde. Möchten Sie sehen, wie KI-Desinformation in der realen Welt funktioniert, und betonen Sie, dass sich große Sprachmodelle hervorragend zum Lesen und Erstellen von Fake News eignen.

Geben Sie zu Beginn den „Kontrast“-Artikel in ChatGPT ein und fordern Sie dann auf, eine Gegenargumentation zu verfassen. Der KI-Bot ist dann in der Lage, mit anderen Beispielen, Stilen und Perspektiven zu schreiben als der „Kontroll“-Artikel. KI-Roboter werden auch gefälschte Geschichten und historische Ereignisse erfinden und ihrerseits sogar die Richtigkeit des Originaltextes in Frage stellen.

Um sicherzustellen, dass die KI nur auf die relevantesten Inhalte reagiert, fügten die Forscher außerdem ein Gatekeeper-Modul hinzu und fügten Nachrichtensprecher hinzu, die von der KI generierte Audioclips gefälschter Artikel lesen, um ein Gefühl für die Realität zu erzeugen, und sogar gefälschte Reporterprofile und Kommentare erstellen unter einigen Artikeln. Zwei Monate später verfügten sie über ein völlig autonomes KI-System, das rund um die Uhr überzeugende Inhalte produzierte.

Paw hat das KI-System nicht wirklich ins Internet gestellt, um die Verbreitung falscher Informationen und falscher Propaganda zu vermeiden. Sie laden lediglich Videos auf YouTube hoch, um die Öffentlichkeit über die erstaunlich geringen Kosten der Erstellung und Verbreitung falscher Informationen mithilfe von KI aufzuklären.

(Erste Bildquelle: Shutterstock)