Stupor und Gelächter. Am 18. Juni erschien ein eher anonymer Account am

Das Konto ist ein russischer Bot, oder zumindest die von ihm generierte Nachricht, über die die ganze Welt lacht, wurde von einem russischen Bot gesendet, der von einem FSB-Agenten programmiert wurde, um Kreml-Propaganda in den Netzwerken zu verbreiten.

Es basiert vor allem auf Chat GPT-4, einer künstlichen Intelligenz, die in der Lage ist, in einer Diskussion verständliche Antworten zu generieren, und deren politischer Inhalt von der Person, die ihn programmiert hat (der berühmte chatgpt-guide-creer-meilleurs-prompts/“ rel=“nofollow“ target=“_blank“>“prompt“das das vom KI-Betreiber gewünschte Ergebnis beschreibt).

Unglücklicherweise für den kleinen Gesprächsroboter aus Moskau hätte der dafür verantwortliche Agent vergessen, seine Credits für die Nutzung besagter KI zu bezahlen, und die Nachricht ist ein Fehlercode, der die ganze Welt dem Topf mit Rosen offenbart.

Der Rest unter dieser Anzeige

Die Geschichte, die natürlich und wie beschrieben ist Der tägliche Punkt löst in den Netzwerken eine Welle von Heiterkeit und Parodien aus, ist amüsant. Zu lustig um wahr zu sein? Es ist möglich, vielleicht sogar wahrscheinlich, dass dies eine Erfindung, ein Witz, eine Art Fehler ist und überhaupt nicht das, woran die Welt beim Lachen denkt.

Der Rest unter dieser Anzeige

„Ein Sprichwort sagt: Niemand weiß, dass die Person hinter dem Bildschirm ein Hund ist.“viel Spaß Nicolas QuénelJournalist, Prüfer russischer Desinformations- und Destabilisierungsoperationen und Autor von Hallo Paris? Hier Moskau und Task Force Baguette – Zwei französische Soldaten an der ukrainischen Front.

Echt oder erfunden, die Anekdote ist jedoch nicht so anekdotisch. Weil es tausend entscheidende Fragen aufwirft, insbesondere in diesen turbulenten Wahlperioden, insbesondere in Frankreich, im Vereinigten Königreich und in den Vereinigten Staaten. Und wir wissen, dass bestimmte Behörden künstliche Intelligenz bereits für kriminelle Zwecke einsetzen – im Februar wurde die New York Times So berichtete das Unternehmen im Anschluss an Microsoft, dass Russland, Iran und Nordkorea bei Computer-Hacking-Operationen OpenAI-Tools nutzten.

Der Rest unter dieser Anzeige

Verfügen Russland und seine Schattenagenturen also über die Mittel, eine durch künstliche Intelligenz generierte Armee zu bilden, die im öffentlichen Raum der angegriffenen Länder Chaos, Verwirrung und Lügen säen soll?

Nicolas Quénel: „IchEs gibt ein echtes Thema, die Massenverdichtung von Operationen.“

Was halten Sie von diesem Tweet? Lüftet es wirklich einen Teil des Schleiers über russische Methoden in modernen Desinformations- und Manipulationskampagnen?

Nicolas Quénel: Es kommt mir groß vor. Aber gleichzeitig haben sie mich so daran gewöhnt, große Fehler zu machen, dass am Ende alles glaubwürdig erscheint … In dieser Phase muss man jedoch vorsichtig sein. Es gibt keine Beweise dafür, dass dieser Tweet das ist, was die Leute beschreiben: ein russischer Bot, der vergessen hat, seine Credits zu bezahlen.

Es gibt immer noch eine sehr symbolische Seite: Wie könnte die Zukunft der Informationskriegsführung aussehen, wenn sie diesen Weg nicht bereits eingeschlagen hat?

Der Rest unter dieser Anzeige

Es ist schon ein paar Monate her, oder sogar etwas länger, dass uns überall erklärt wird, dass generative künstliche Intelligenz der nächste große technische Fortschritt für Einflussoperationen ist, egal ob aus Russland oder aus anderen Ländern, egal aus welchem ​​Land oder welcher Gruppe.

Dahinter steckt ein echtes Thema, nämlich die Massenvergrößerung von Operationen, denn wenn sie mit konversationsfähigen künstlichen Intelligenzen statt mit menschlichen Agenten durchgeführt würden, würde ihre Herstellung fast nichts kosten.

Generative KI ist eindeutig ein Technologiesprung, ein neuer. Aber ich glaube nicht, dass dies notwendigerweise zu der Informationsapokalypse führt, die uns oft präsentiert wird, wenn uns gesagt wird, dass wir morgen nicht mehr in der Lage sein werden, Wahrheit von Unwahrheit zu unterscheiden. Daran werden wir seit der Erfindung von Photoshop erinnert. Als Photoshop herauskam, sagten die Leute bereits, dass wir bald nicht mehr richtig von falsch unterscheiden können. Die informative Apokalypse kam nicht von Photoshop, und ich denke, sie wird auch nicht von der generativen KI kommen.

Der Rest unter dieser Anzeige

Generative KI sind Werkzeuge, die immer noch der Aufsicht bedürfen, man muss in sie investieren, darüber nachdenken, Gesetze erlassen. Vor allem aber denke ich, dass es sich hierbei um Tools handelt, die die Nutzungsmöglichkeiten der Internetnutzer verändern werden. Morgen werden wir auch misstrauischer sein, genauso wie wir uns fragen können, ob ein Foto mit Photoshop retuschiert wurde oder nicht.

Preiswerte und sehr profitable russische Manipulationen

Aber die Ära der „Alt-Wahrheit“, die seit den Manipulationen von Donald Trump fast überall auf der Welt Einzug gehalten hat, scheint nicht wirklich zu größerem Misstrauen gegenüber Einzelpersonen zu tendieren …

Das ist das eigentliche Thema. Menschen, die zugunsten ihrer Überzeugungen und Meinungen eine Undurchdringlichkeit gegenüber Fakten entwickelt haben, sind meiner Meinung nach mindestens genauso gefährlich wie generative KI.

Der Rest unter dieser Anzeige

Vor allem, weil wir feststellen, dass der Einsatz digitaler Werkzeuge bei Informations- und Einflusskampfeinsätzen abzunehmen scheint, und zwar zugunsten der guten alten Methoden des Kalten Krieges – typischerweise die Davidsterne auf den Mauern von Paris (Radio Frankreich), oder die roten Hände am Shoah-Denkmal (Frankreich Info).

Was können Sie mir über die Operation „Matroschka“ sagen, die von beschrieben wurde? Frankreich 24 vor allem ? Es ist eine interessante Kampagne: Ziel ist es, Journalisten, die Informationen überprüfen, zu mobilisieren, sie mit Anfragen zu ertränken und sie daran zu hindern, zu überprüfen, was für die Überprüfung wichtig sein könnte.

Angesichts der Vervielfachung der Einflussoperationen, die wir in letzter Zeit beobachtet haben, können wir uns fragen, ob die Russen versuchen könnten, dasselbe mit den französischen Behörden zu tun, indem sie sie überfordern und Ressourcen ausgeben, die andernfalls möglicherweise fehlen würden.

Der Rest unter dieser Anzeige

Neben der Massenvermehrung von Kampagnen im Internet gibt es auch in der realen Welt eine Massenvermehrung dieser kleinen Dinge, die die Agenten sehr beschäftigt hält. Diese Operationen, über die wir gesprochen haben, sind kostengünstig, aber möglicherweise sehr profitabel: Die Medien stürzen sich auf die Informationen wie Armut auf die arme Welt, sie besetzen den Boden und verstärken ihre Präsenz im öffentlichen Raum.

Was ist das Endziel dieser Operationen?

Das ist manchmal schwer klar zu verstehen. Es dient dazu, die Brüche in der französischen Gesellschaft zu beseitigen, aber die Ziele können vielfältig und komplementär sein.

Wir sehen auch, dass Russland nicht der Einzige ist, der auf diesem Gebiet spielt: Reuterszurückgenommen von Die Weltenthüllte kürzlich Verdachtsmomente im Zusammenhang mit einer CIA-Desinformationsoperation im Jahr Philippinenund verunglimpft den chinesischen Impfstoff gegen Covid-19, Sinovac.

Der Rest unter dieser Anzeige

Ja, und ich finde, dass diese Operation wirklich unaussprechlich ist, denn sie wird den Gegnern der Demokratien Futter liefern und ihr Narrativ unterstützen, das heißt, dass sie Heuchler sind und dass die Menschenrechte eine variable Geometrie haben. Der Beweis: Sie nutzen die gleichen Methoden wie ihre Gegner.

Das ist das ganze Problem eines asymmetrischen Krieges, es ist wie beim Kampf gegen den Terrorismus: Wir müssen es tun, ohne unsere Werte zu verfälschen, sonst nähren wir diese ganze Propaganda. Es ist notwendig, das beizubehalten „Moralische Höhe“wie die Angelsachsen sagen, bleiben in einer Position der Stärke, die auf klaren Werten basiert.

Wir können die Menschenrechte nicht fördern, wenn wir sie selbst mit Füßen treten. Wir müssen unsere Grundwerte und unsere Rechtsstaatlichkeit als Stärken und nicht als Schwächen betrachten. Kümmern Sie sich um sie und stellen Sie sicher, dass Sie ihnen keinen Schaden zufügen, indem Sie die gleichen Methoden anwenden wie die Gegner der Demokratien.