In einem frühen FAFO Test für Elon Musk könnte Deutschland mit einer Geldstrafe gegen Twitter belegt werden, weil es wiederholt gegen ein Gesetz zum Entfernen von Hassreden in sozialen Medien, auch bekannt als NetzDG, verstoßen hat, das die rasche Entfernung illegaler Inhalte wie Hassreden vorschreibt.

Das Bundesjustizamt (BfJ) gab den Schritt in a bekannt Pressemitteilung heute – und sagte, es habe ein Verfahren nach dem Netzwerkdurchsetzungsgesetz (alias NetzDG) ​​des Landes eingeleitet, nachdem festgestellt wurde, dass es „ausreichende Hinweise auf Fehler“ in den Beschwerdemanagementprozessen der Plattform gibt.

Nach dem NetzDG müssen Social-Media-Plattformen innerhalb von sieben Tagen – oder bei den offensichtlichsten illegalen Inhalten innerhalb von 24 Stunden – auf Nutzermeldungen über illegale Inhalte reagieren, die gemeldeten Inhalte überprüfen und Inhalte entfernen, wenn sich herausstellt, dass sie illegal sind. Was illegal ist, wird durch das deutsche Strafgesetzbuch geregelt, das Hassreden, Beleidigungen und Drohungen sowie Antisemitismus umfasst.

„Dem BfJ wurden zahlreiche Inhalte gemeldet, die auf Twitter veröffentlicht wurden, die aus Sicht der Behörde rechtswidrig sind und trotz Nutzerbeschwerden vom Anbieter nicht innerhalb der gesetzlich vorgeschriebenen Fristen gelöscht oder gesperrt wurden. Darauf baut das eingeleitete Bußgeldverfahren auf“, heißt es in einer Mitteilung des BfJ.

„Bei einzelnen Verstößen von Anbietern sozialer Netzwerke gegen die Prüfungs- und Löschpflichten des NetzDG ist grundsätzlich nicht davon auszugehen, dass es kein wirksames Verfahren zur Bearbeitung von Beschwerden über rechtswidrige Inhalte gibt. Allerdings ist ein systembedingtes Versäumnis des Beschwerdemanagements bußgeldbehaftet, das eintritt, wenn Verstöße gegen die einschlägigen Vorgaben des NetzDG zeitnah und in sachrelevanter Weise wiederholt auftreten.“

Das Amt sagte, der Inhalt, wegen dem es gegen Twitter vorgeht, sei „zeitlich und inhaltlich eng miteinander verbunden“ – und klagte ein „systemisches Versagen im Beschwerdemanagement des Anbieters“ an. „Sie wurden über einen Zeitraum von rund vier Monaten auf Twitter veröffentlicht und von Nutzern dem Anbieter von Twitter als rechtswidrig gemeldet“, hieß es weiter. „Alle Inhalte enthalten ähnliche, ungerechtfertigte, diffamierende Meinungsäußerungen, die sich alle gegen dieselbe Person richten. Sie stellen laut BfJ eine Straftat dar.“

Auf dem Papier sieht das deutsche NetzDG-Gesetz Bußgelder von bis zu 50 Millionen Euro für Verstöße gegen das Regime vor.

Bisher hat die Regierung jedoch nicht versucht, das Gesetz für Verstöße gegen die Moderation von Inhalten durchzusetzen – und seien wir ehrlich, kein Social-Media-Unternehmen kann an dieser Front eine perfekte Bilanz vorweisen – daher ist es interessant zu sehen, wie Musks Twitter das Justizamt sticht endlich in Aktion treten. (Das NetzDG trat bereits im Oktober 2017 in Kraft, als Musk mehr damit beschäftigt war, Hyperloop und The Boring Company zu hypen, als Twitter zu Tode zu schlagen.)

Die Messaging-Plattform Telegram wurde im vergangenen Jahr mit NetzDG-Bußgeldern in Höhe von insgesamt 5,125 Millionen Euro belegt. Aber das lag daran, dass Benutzern keine Tools zur Verfügung gestellt wurden, um illegale Inhalte zu melden, und keine juristische Person in Deutschland gegründet wurde, um offizielle Mitteilungen von Aufsichtsbehörden zu erhalten – und nicht wegen Verstößen gegen die Takedown-Regeln selbst, mit denen Twitter hier konfrontiert zu sein scheint.

Wir haben die Pressestelle von Twitter per E-Mail um eine Antwort auf das BfJ gebeten, das ein Verfahren wegen Fehlern bei der Moderation von Systeminhalten einleitet, und es hat mit einer automatisierten Antwort geantwortet, die das Poop-Emoji enthält – etwas, das der Presse-E-Mail-Account von Twitter seit Ende letzten Monats tut. (Musk liquidierte zuvor die Kommunikationsabteilung von Twitter und ebnete damit seinen verbleibenden „Hardcore“-Ingenieuren den Weg, intelligente Kommunikationsmitarbeiter durch einen dummen Algorithmus zu ersetzen.)

Seit Musk Ende Oktober eine Spüle in das Twitter-Hauptquartier getragen hat – um den Beginn seiner Herrschaft zu signalisieren/die Plattform den Bach runter zu spülen – ist er bereit, die Zahl der Mitarbeiter zu kürzen und Ressourcen abzubauen, die zuvor in die Moderation von Inhalten gelenkt worden waren. Doch obwohl er die Fähigkeit der Plattform, auf Benutzerberichte über hasserfüllte Inhalte zu reagieren, einer Abrissbirne ausgesetzt war, behauptete er, seinen Moderationsansatz zu reformieren und zu verbessern – und machte damit eine große Show, indem er eine bestehende Crowd-Sourcing-Funktion zur Überprüfung von Fakten namens Community Notes erweiterte .

Er hat vorgeschlagen, dass dies sein bevorzugter Weg zur Bereitstellung einer dezentralisierten und fairen Sprachmoderation ist, über ein System mit ergänzenden Notizen, die an „schlechte Sprache“ angehängt werden können, anstatt sie zu entfernen (kombiniert mit einigen Strafen wie dem Entfernen der anstößigen Tweets aus der algorithmischen Empfehlung).

Die Sache ist, dass Musks Argument nicht nur unaufrichtig ist – die Auslagerung der Moderation von Inhalten bei gleichzeitiger Aushöhlung interner Ressourcen ist keine Verbesserung, wie auch immer Sie es drehen wollen – es ist auch blind für das rechtliche Risiko, für das seine Entscheidungen das Unternehmen in Ländern wie Deutschland aufgestellt haben, wo es keine gibt Crowdsourcing-Debatte über illegale Inhalte, da das Gesetz die sofortige Entfernung illegaler Tweets vorschreibt. Daher bietet das NetzDG einen frühen Test von Musks Vorgehen/Ansprüchen/Bußgeldbegehren, wie wir letztes Jahr berichteten.

(Hinweis: Das Digital Services Act der Europäischen Union stellt auch gesetzliche Anforderungen, wie digitale Dienste an die Inhaltsverwaltung herangehen müssen – und diese Verordnung tritt ab Anfang 2024 EU-weit für alle digitalen Dienste in Kraft; obwohl eine Teilmenge größerer Plattformen, so genannte VLOPs werden voraussichtlich früher konform sein, wahrscheinlich ab diesem Herbst, und es ist möglich, dass Twitter die VLOP-Schwelle erreichen könnte. Bußgelder im Rahmen der neuen EU-Regelung können sich inzwischen auf bis zu 6 % des weltweiten Jahresumsatzes belaufen.)

Zurück zu Deutschland: Twitter scheint eine Chance zu haben, einer möglicherweise millionenschweren NetzDG-Strafe zu entgehen, wenn es mit der Bundesregierung wegen Bedenken wegen illegaler Inhalte in Kontakt tritt – wie das BfJ sagt, gibt es dem Unternehmen die Möglichkeit zur Stellungnahme zum angeblich systemischen Versagen des Beschwerdemanagements.

Wenn Twitter dies nicht tut oder – sagen wir – eine Antwort sendet, die so viel Substanz wie ein Poop-Emoji hat, wird das BfJ in die nächste Stufe des Verfahrens eintreten und zu dem Schluss kommen, dass sein Vorwurf des rechtswidrigen Verhaltens weiterhin berechtigt ist – und beantragen das Landgericht Bonn zur Einleitung eines Vorabentscheidungsverfahrens.

Das NetzDG verlangt, dass ein Richter über die Rechtswidrigkeit des beanstandeten Inhalts entscheidet, bevor ein Bußgeld wegen eines Deaktivierungsversagens verhängt wird, also wäre es Sache des Landgerichts Bonn, dies zu tun. Sollte das Gericht die Auffassung des BfJ von der Rechtswidrigkeit der Inhalte aufrechterhalten, wäre das Bundesamt berechtigt, Twitter mit einem Bußgeld zu belegen. Es bleibt also noch Zeit, sich mit Popcorn einzudecken.

Als ob das nicht genug FAFOing in Deutschland wäre, sieht sich Musks Twitter auch einer separaten Klage wegen illegaler Inhalte gegenüber: Bereits im Januar wurde eine Klage wegen Hassreden gegen den Holocaust von HateAid und der European Union of Jewish Students eingereicht, die eine Gründung anstreben ob Unternehmen mit AGB, die Antisemitismus verbieten, vertraglich verpflichtet sind, ihre Bedingungen einzuhalten.

Die Prozessparteien gehen einen anderen Weg (vs. NetzDG) ​​– und wenn ihre Klage obsiegt, könnte sie einen Präzedenzfall schaffen, der weitreichender als nur Twitter gelten würde. Musks Amtszeit an der Spitze des Vogels könnte also eine größere Bedeutung für die Redefreiheit haben, als selbst er vermutet.