Wahlen auf der ganzen Welt sind einer wachsenden Bedrohung durch ausländische Akteure ausgesetzt, bei der es um künstliche Intelligenz geht.
Länder, die versuchten, die Wahlen anderer Länder zu beeinflussen, traten 2016 in eine neue Ära ein, als die Russen eine Reihe von Desinformationskampagnen in den sozialen Medien starteten, die auf die US-Präsidentschaftswahl abzielten. In den nächsten sieben Jahren nutzten eine Reihe von Ländern – vor allem China und der Iran – soziale Medien, um ausländische Wahlen zu beeinflussen, sowohl in den USA als auch anderswo auf der Welt. Es gibt keinen Grund zu der Annahme, dass 2023 und 2024 anders sein werden.
Aber es gibt ein neues Element: generative KI und große Sprachmodelle. Diese verfügen über die Fähigkeit, schnell und einfach endlose Textmengen zu jedem Thema in jedem Tonfall und aus jeder Perspektive zu erstellen. Als ein SicherheitsexperteIch glaube, dass es sich um ein Werkzeug handelt, das speziell für die Propaganda im Internetzeitalter geeignet ist.
Das ist alles sehr neu. ChatGPT wurde im November 2022 eingeführt. Das leistungsstärkere GPT-4 wurde im März 2023 veröffentlicht. Andere KIs für die Sprach- und Bildproduktion sind etwa gleich alt. Es ist nicht klar, wie diese Technologien die Desinformation verändern werden, wie effektiv sie sein werden oder welche Auswirkungen sie haben werden. Aber wir werden es gleich herausfinden.
Eine Verbindung von Wahlen
Die Wahlsaison steht bald vor der Tür Voller Schwung in weiten Teilen der demokratischen Welt. 71 Prozent der in Demokratien lebenden Menschen werden bis Ende nächsten Jahres an nationalen Wahlen teilnehmen. Darunter: Argentinien und Polen im Oktober, Taiwan im Januar, Indonesien im Februar, Indien im April, die Europäische Union und Mexiko im Juni und die USA im November. Neun afrikanische Demokratien, darunter Südafrika, werden im Jahr 2024 Wahlen abhalten. Australien und das Vereinigte Königreich haben keine festen Termine, aber Wahlen werden wahrscheinlich im Jahr 2024 stattfinden.
Viele dieser Wahlen sind für die Länder, die in der Vergangenheit Einflussnahmen in den sozialen Medien durchgeführt haben, von großer Bedeutung. China kümmert sich sehr darum Taiwan, Indonesien, Indien Und viele afrikanische Länder. Russland kümmert sich um Großbritannien, Polen, Deutschland und die USA EU im Allgemeinen. Jeder kümmert sich um die Vereinigten Staaten.
Und dabei werden nur die größten Player berücksichtigt. Bei jeder nationalen US-Wahl im Jahr 2016 versuchte ein weiteres Land, das Ergebnis zu beeinflussen. Zuerst waren es nur Russland, dann Russland und China und zuletzt diese beiden plus Iran. Da die finanziellen Kosten ausländischer Einflussnahme sinken, können sich mehr Länder an der Aktion beteiligen. Tools wie ChatGPT senken die Kosten für die Produktion und Verbreitung von Propaganda erheblich, sodass diese Möglichkeit in den Rahmen des Budgets vieler weiterer Länder fällt.
Wahleinmischung
Vor ein paar Monaten nahm ich an einer Konferenz mit Vertretern aller Cybersicherheitsbehörden in den USA teil. Sie sprachen über ihre Erwartungen hinsichtlich der Wahleinmischung im Jahr 2024. Sie erwarteten die üblichen Akteure – Russland, China und Iran – und einen bedeutenden neuen: „Inländische Schauspieler.“ Das ist eine direkte Folge dieser reduzierten Kosten.
Natürlich geht es bei der Durchführung einer Desinformationskampagne um viel mehr als nur um die Generierung von Inhalten. Der schwierige Teil ist die Verteilung. Ein Propagandist braucht eine Reihe gefälschter Accounts, auf denen er posten kann, und andere, um die Sache in den Mainstream zu bringen, wo sie viral gehen kann. Unternehmen wie Meta sind viel besser darin geworden, diese Konten zu identifizieren und zu löschen. Erst letzten Monat, Meta angekündigt dass es 7.704 Facebook-Konten, 954 Facebook-Seiten, 15 Facebook-Gruppen und 15 Instagram-Konten entfernt hatte, die mit einer chinesischen Einflusskampagne in Verbindung standen, und Hunderte weitere Konten auf TikTok, X (ehemals Twitter), LiveJournal und Blogspot identifiziert hatte. Aber das war eine Kampagne, die vor vier Jahren begann und Desinformation vor der KI hervorbrachte.
Desinformation ist ein Wettrüsten. Sowohl die Angreifer als auch die Verteidiger haben sich verbessert, aber auch die Welt der sozialen Medien ist anders. Vor vier Jahren war Twitter ein direkter Draht zu den Medien, und Propaganda auf dieser Plattform war eine Möglichkeit, das politische Narrativ zu beeinflussen. Eine Studie der Columbia Journalism Review ergab, dass die meisten großen Nachrichtenagenturen verwendete russische Tweets als Quellen für parteiische Meinungen. Dieses Twitter, auf dem praktisch jeder Nachrichtenredakteur es liest und jeder, der dort etwas gepostet hat, existiert, gibt es nicht mehr.
Viele Propagandakanäle sind von Facebook auf Messaging-Plattformen wie Telegram und WhatsApp umgestiegen, was es schwieriger macht, sie zu identifizieren und zu entfernen. TikTok ist eine neuere Plattform, die von China kontrolliert wird und sich eher für kurze, provokante Videos eignet – solche, deren Produktion durch KI deutlich einfacher wird. Und die aktuelle Generation generativer KIs ist im Umlauf mit Werkzeugen verbunden Dies erleichtert auch die Verteilung von Inhalten.
Generative KI-Tools ermöglichen auch neue Produktions- und Vertriebstechniken, beispielsweise Propaganda auf niedriger Ebene in großem Maßstab. Stellen Sie sich ein neues KI-gestütztes persönliches Konto in den sozialen Medien vor. Im Großen und Ganzen verhält es sich normal. Er postet über seinen Fake-Alltag, schließt sich Interessengruppen an, kommentiert die Beiträge anderer und verhält sich grundsätzlich wie ein normaler Nutzer. Und hin und wieder, nicht sehr oft, sagt es etwas Politisches aus – oder verstärkt es. Diese Personen-Bots, wie die Informatikerin Latanya Sweeney sie nennt, haben für sich genommen nur einen vernachlässigbaren Einfluss. Aber zu Tausenden oder Millionen reproduziert, hätten sie noch viel mehr.
Desinformation über KI-Steroide
Das ist nur ein Szenario. Die für Wahleinmischung verantwortlichen Militäroffiziere in Russland, China und anderswo lassen ihre besten Leute wahrscheinlich an andere denken. Und ihre Taktik dürfte deutlich ausgefeilter sein als 2016.
Länder wie Russland und China haben in der Vergangenheit sowohl Cyberangriffe als auch Informationsoperationen auf kleinere Länder getestet, bevor sie diese in großem Maßstab einführten. Wenn das passiert, ist es wichtig, diese Taktiken nachverfolgen zu können. Um neuen Desinformationskampagnen entgegenzutreten, muss man sie erkennen können, und um sie zu erkennen, muss man sie jetzt suchen und katalogisieren.
In der Welt der Computersicherheit erkennen Forscher, dass die gemeinsame Nutzung von Angriffsmethoden und ihrer Wirksamkeit die einzige Möglichkeit ist, starke Verteidigungssysteme aufzubauen. Die gleiche Denkweise gilt auch für diese Informationskampagnen: Je mehr Forscher untersuchen, welche Techniken in fernen Ländern eingesetzt werden, desto besser können sie ihre eigenen Länder verteidigen.
Desinformationskampagnen im KI-Zeitalter dürften viel ausgefeilter sein als im Jahr 2016. Ich glaube, dass die USA Anstrengungen unternehmen müssen, um Fingerabdrücke zu erfassen und KI-produzierte Personen zu identifizieren Propaganda in Taiwan, wo ein Präsidentschaftskandidat behauptet, eine gefälschte Audioaufnahme habe ihn diffamiert, und an anderen Orten. Sonst werden wir sie nicht sehen, wenn sie hier ankommen. Leider sind es stattdessen Forscher gezielt Und belästigt.
Vielleicht wird alles gut. Im Zeitalter der generativen KI gab es einige wichtige demokratische Wahlen ohne nennenswerte Desinformationsprobleme: Vorwahlen in Argentinien, Erstwahlen in Ecuador und nationale Wahlen in Thailand, der Türkei, Spanien und Griechenland. Aber je früher wir wissen, was uns erwartet, desto besser können wir mit dem umgehen, was kommt.
Bruce Schneider ist außerordentlicher Dozent für öffentliche Ordnung, Harvard Kennedy School.
Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel.
Sehen Sie sich das Diagramm an
