Elon Musks Twitter könnte für eine Pipeline von Strafen in Höhe von mehreren Millionen Dollar für das Versäumnis, illegale Hassreden in Deutschland zu unterbinden, in Gefahr sein.

Bußgelder drohen sogar in Milliardenhöhe, wenn die Bundesregierung den zahlreichen ihr bereits gemeldeten Fällen von Untätigkeit der Inhaltsmoderation nachgeht und deutsche Gerichte Rechtsverstöße bestätigen.

Anfang dieser Woche gab die Bundesregierung bekannt, dass sie ein Verfahren wegen mutmaßlicher systemischer Ausfälle nach dem Gesetz zur Entfernung von Hassreden des Landes einleiten werde. Das Gesetz, umgangssprachlich NetzDG genannt, sieht Bußgelder von bis zu 50 Millionen Euro pro Fall vor.

Laut Anwalt Chan-jo Jun, dem Gründer und geschäftsführenden Gesellschafter der auf IT spezialisierten Anwaltskanzlei JunIT Rechtsanwälte, handelt die Bundesregierung nur aufgrund einer Handvoll Tweets von Hunderten, die gemeldet und in einer Datenbank gesammelt wurden.

Jun vertritt den Antisemitismusbeauftragten des Landes Baden-Württemberg, Michael Blume, der seiner Meinung nach Zielscheibe beleidigender und diffamierender Tweets war, die Twitter nicht entfernen wollte. Einige der missbräuchlichen Tweets wurden von einem Twitter-Nutzer gepostet, der vor der Übernahme der Plattform durch Musk gesperrt worden war, dessen Konto jedoch im Rahmen von Musks allgemeiner Amnestie für gesperrte Konten wiederhergestellt wurde.

Ende letzten Jahres ging die Anwaltskanzlei vor Gericht, um eine einstweilige Verfügung gegen Twitter zu erwirken, weil es versäumt hatte, auf die Berichte zur Entfernung von Hassreden nach dem NetzDG zu reagieren. Die Anfechtungsklage hatte erfolgreich festgestellt, dass die Tweets illegal waren. Und es scheint dazu beigetragen zu haben, die Bundesregierung zum Handeln anzuspornen – die am Dienstag sagte, sie habe „ausreichende Hinweise auf Fehler“ in den Beschwerdemanagementprozessen von Twitter festgestellt, um einen Prozess einzuleiten, der zur ersten Strafe für ein Social-Media-Unternehmen führen könnte wegen Nichtbeseitigung rechtswidriger Inhalte nach NetzDG.

Über die Hintergründe des Falls sagte Jun gegenüber TechCrunch, seine Firma habe letztes Jahr eine Reihe von Tweets an das Bundesjustizamt (BfJ) gemeldet, man habe ihr jedoch zunächst mitgeteilt, dass sie nicht über genügend Material verfüge, um festzustellen, dass ein Systemversagen vorliegt.

„Wir hatten dem Bundesamt mehrere Fälle gemeldet [BfJ] zu dieser Zeit und stellten fest, dass sie sich einig waren, dass diese Tweets illegal waren, aber sagten, dass sie nicht genug Material für einen systematischen Fehler haben. Und das war der Zeitpunkt, an dem eine Gruppe von Freiwilligen begann, systematisch nach illegalen Inhalten zu suchen und dies weiter zu melden und eine riesige Datenbank aufzubauen … und sie übermittelten dies weiterhin an die [BfJ]. Es sind also über 600 Fälle“, sagte er.

„Diejenigen, die jetzt dem unterliegen [federal government’s] Fall scheinen nur die ersten zu sein. Sie haben sie ausgewählt, weil sie sich in dieser Hinsicht alle ähnlich waren – ich glaube, sie stammten vom selben Benutzer und hatten denselben Inhalt. Das ist wahrscheinlich der Grund, warum sie sich für diese entschieden haben, weil es der einfachste Fall wäre, um zu erkennen, dass es sich um systematisches Versagen handelt. Dass es kein einziges Versagen eines Content-Moderators war, sondern dass die überwiegende Mehrheit – oder alle – der Meldungen falsch behandelt wurden.“

Ende letzten Jahres, The New York Times berichteten über Untersuchungen des Center for Countering Digital Hate, der Anti-Defamation League und einer Reihe anderer Gruppen, die Online-Plattformen untersuchen, die eine starke Zunahme von Hassreden festgestellt haben, seit Musk die Plattform Ende Oktober übernommen und sich daran gemacht hat, die Zahl der Mitarbeiter zu kürzen – einschließlich Personalabbau in Deutschland und anderen internationalen Büros.

Bedenken hinsichtlich der Auswirkungen von Musk auf die Inhaltsmoderation von Twitter in der Region haben auch von der EU-Exekutive, der Europäischen Kommission, die im Laufe dieses Jahres eine wichtige Aufsichtsrolle über größere Plattformen im Rahmen des Digital Services Act übernehmen wird, das Regeln festlegen wird wie Dienste auf Meldungen illegaler Inhalte reagieren müssen.

Binnenmarktkommissar Thierry Breton warnte Musk im vergangenen November, das Unternehmen habe enorme Arbeit vor sich, um das kommende pan-EU-Regelwerk einzuhalten – nach dem Strafen für Verstöße bis zu 6 % des weltweiten Jahresumsatzes betragen können. Wenn Twitter also noch nicht bankrott ist, steht es unter seinem unberechenbaren und stark verschuldeten Milliardärsbesitzer vor einer lähmend kostspieligen Zukunft, wenn Musk weiterhin die Nase vor den Aufsichtsbehörden hält und Gesetze ignoriert, die ihm nicht gefallen.

Auch allein in Deutschland, wenn das BfJ auf die über 600 ihm bereits gemeldeten Fälle von illegaler Hassrede einschreiten würde, könnten sich für Twitter Bußgelder von bis zu 30 Milliarden Euro ergeben, basierend auf den Höchststrafen des NetzDG-Gesetzes .

Natürlich ist ein theoretisches Maximalergebnis unwahrscheinlich. Aber es gibt eindeutig keinen Mangel an Fällen, die das BfJ durchsetzen könnte – was bedeutet, dass sich Geldstrafen für das Versäumnis von Musk-eigenem Twitter, Hassreden zu beseitigen, dennoch schnell häufen könnten. Und Musk hat keinen unbegrenzten Vorrat an alten Büromöbeln, die er verkaufen könnte, um seine Schulden zu bedienen.

Jun sagt, er erwartet, dass die erste Strafe für die Tweets, gegen die das BfJ Maßnahmen ergriffen hat, unter dem Höchstbetrag festgesetzt wird – vorausgesetzt, das Gericht bestätigt, dass sie illegal sind.

„Der Gesetzgeber erwartet für jeden Fall Bußgelder von bis zu 50 Millionen Euro. Es ist möglich, dass sie zunächst nicht die volle Menge einnehmen. Es gibt tatsächlich eine Tabelle … die die Intensität des Ausfalls angibt. Ich würde also erwarten, dass die erste Geldbuße zwischen 5 und 20 Millionen Euro liegt“, schlägt er vor.

„Es wird etwas länger dauern, bis es das gesamte Verfahren durchlaufen hat, weil jetzt die Gerichte entscheiden müssen, ob die Inhalte rechtswidrig sind oder nicht. Ich bin mir jedoch ziemlich sicher, dass sie illegal sind, weil sie bereits Gegenstand von Gerichtsentscheidungen waren.“

„Ich habe die letzten sieben Monate Druck auf das BfJ und den Minister ausgeübt“, fügt er hinzu. „Und eigentlich, weil ich dachte, dass das systematische Versagen offensichtlich war – mit allen Arten von Verbrechen, die auf Twitter begangen wurden, einschließlich Kinderpornografie, die in der Vergangenheit auch nicht systematisch gelöscht wurde. Und das Gleiche gilt für die meisten Verleumdungsfälle – insbesondere diejenigen, bei denen die Legitimität eines Tweets nicht nur anhand des Inhalts des Tweets selbst beurteilt werden kann, wo Sie herausfinden müssen, was tatsächlich die Wahrheit ist, wenn Verleumdung auf Twitter verbreitet wird.

„Und was wir in der Vergangenheit gesehen haben, ist, dass Twitter sich entschieden hat, sich nicht die Mühe zu machen, die Benutzer aufzufordern, irgendwelche Beweise dafür zu liefern, was sie bleiben … obwohl dies von anderen sozialen Netzwerken wie Google oder [other social] Netzwerke in Deutschland.“

Niemand würde behaupten, dass Twitter vor Musk eine perfekte Arbeit bei der Moderation von Inhalten geleistet hat. Weit davon entfernt. Und es bleibt merkwürdig, dass Deutschland bisher keine Social-Media-Unternehmen wegen Nichteinhaltung der Anforderungen des NetzDG zur Entfernung von Inhalten verfolgt hat (schließlich ist das Gesetz seit 2017 in Kraft).

Aber wenn Musk irgendetwas schnell getan hat, dann das Vertrauen zu Regulierungsbehörden und Gesetzgebern verbrennen – indem er Dinge wie das Ausnehmen von Ressourcen für die Moderation von Inhalten und die Entlassung von politischen Mitarbeitern getan hat, deren Aufgabe es war, mit den Regulierungsbehörden über umstrittene Redefragen in Dialog zu treten, um den Fall des Unternehmens durchzusetzen – was bedeutet, dass die Institutionen, die er gerne verspottet, wenig andere Möglichkeiten haben, als das Schlimmste anzunehmen und einfach mit der Anwendung des Gesetzes fortzufahren.

Das BfJ wurde um Stellungnahme gebeten.

Das Pressebüro von Twitter antwortete automatisch mit einem Poop-Emoji als Antwort auf eine per E-Mail gesendete Anfrage nach einem Kommentar.