Mark Zuckerberg, Mitbegründer und Vorstandsvorsitzender von Facebook, „rennt ins Metaverse davon“, um das spaltende Chaos zu vermeiden, das seine Social-Media-Plattform in der Welt angerichtet hat, sagte die Whistleblowerin und Datenwissenschaftlerin Frances Haugen am Freitagabend in Cambridge.

Vor einem ausverkauften Haus im Hörsaal von Babbage zeigte der ehemalige Facebook-Software-Manager mit dem Finger auf den Kommunikationsdirektor des Unternehmens aus dem Silicon Valley, Nick Clegg, weil er die Höhenflüge des Milliardärs ermöglicht und ermutigt hatte, und forderte diejenigen auf, die Zuckerberg nahe standen, um ihn zu ermutigen ihn, die Krise anzugehen, denn „bis Mark geheilt ist, kann er uns nicht heilen“.

Frances Haugen, geboren 1984 in Iowa, studierte Elektro- und Computertechnik und erwarb 2011 einen MBA an der Harvard Business School. In diesem Jahr begann sie ihre Karriere bei Google als Software-Ingenieurin und stieg zur Produktmanagerin auf. Nach vier Jahren bei Google wechselte sie zu Yelp und dann zu Pinterest. Sie kam im Juni 2019 als Produktmanagerin zu Facebook und blieb bis Mai 2021.

Während ihrer Zeit bei Facebook war Haugen zunehmend beunruhigt über die Entscheidungen des Unternehmens, „ihre eigenen Gewinne über die öffentliche Sicherheit zu stellen und das Leben von Menschen aufs Spiel zu setzen“. Im vergangenen Sommer überreichte sie dem US-Kongress und der Securities and Exchange Commission (SEC) Zehntausende Seiten interner Facebook-Dokumente. Die Dokumente wurden im Wall Street Journal als „The Facebook Files“ veröffentlicht.

Die Datentranche zeigt, dass Facebook wusste, dass seine Produkte die psychische Gesundheit von Teenagern schädigen, ethnische Gewalt in Ländern wie Äthiopien schürten und die Verbreitung von Fehlinformationen vor den Unruhen in Washington am 6. Januar 2021 zuließen. Sie porträtieren ein Unternehmen, das sich dessen bewusst ist Schaden, den die von der Plattform verwendeten Algorithmen anrichten, aber „nicht handeln wollen oder können“.

Die Cambridge-Veranstaltung mit dem Titel „Frances Haugen: Can We Trust Tech?“ wurde vom Minderoo Centre for Technology and Democracy organisiert, einem unabhängigen Team akademischer Forscher, die „die Machtbeziehungen zwischen digitalen Technologien, der Gesellschaft und unserem Planeten radikal überdenken“ am Universität von Cambridge.

Die Whistleblowerin hielt einen Einführungsvortrag, gefolgt von einer Fragerunde mit ihren Bühnengefährten Prof. Gina Neff, Geschäftsführerin des Zentrums, und Prof. John Naughton, Vorsitzender des Beirats des Zentrums das Observer Tech-Kolumnist.

Das Kernproblem des Facebook-Phänomens, sagte Frau Haugen, sei nicht ihre Schuld – die menschliche Natur (so wie sie aussieht) sorge dafür, dass „polarisierende, extreme Inhalte das meiste Engagement erhalten, und das hat enorme Konsequenzen“.

Was die Algorithmen von Facebook tun, ist, diese extremen Inhalte im Newsfeed weiter nach oben zu schieben, sagt Frau Haugen.

„Facebook hat dazu in den letzten Wochen auf der persönlichen Seite von Mark Zuckerberg kommentiert, dass die Newsfeeds der Nutzer weniger Inhalte von Familie und Freunden haben werden – früher mehr von Familie und Freunden. Familie und Freunde sind nicht das Problem. Wenn Sie nur Inhalte erhalten, denen Sie zustimmen, ist dies weniger aggressiv und konfrontativ.“

Warum platziert Facebook diesen ungefragten Inhalt weiter oben in unseren Feeds?

„Ich glaube, sie haben Angst, dass die Leute weiterziehen, und das ist wirklich beängstigend für sie.“

Eines der Probleme für die Benutzer ist, dass wir kein Mitspracherecht darüber haben, wie Inhalte präsentiert werden, sagte sie.

„Als ich Facebook beigetreten bin, dachte ich, vielleicht 300 oder 400 Leute würden die Algorithmen verstehen, aber es sind nur 200 Leute. Kein System kann so verstanden werden. Wir müssen die Leute an den Tisch bringen, es braucht 10 oder 15 Prozent der Leute, die am Tisch sitzen.

„Wir treten in eine Ära ein, in der sich die Technologie immer schneller entwickelt. Bei Autos könnte man einen Motor zerlegen und daran arbeiten. Jetzt verstehen wir nicht, was hinter unseren Bildschirmen vor sich geht.“

Frau Haugen betonte, dass sich Social Media noch in einem so frühen Stadium befinde, dass „mein erster Produktmanager bei Google erst 2006 anfing – es ist ein sehr junger Bereich“.

Sie fügte hinzu: „Wir alle müssen uns bewusst sein, dass Facebook kein Spiegel ist, sondern ein Verstärker. Nicht alle Informationen werden gleichmäßig verteilt – gute Rede trifft nicht immer auf schlechte Rede. Die Wahrheit ist nuanciert.“

Tatsache ist, dass die Menschheit noch nie so gründlich in die Denkspiele eingetaucht war, die uns die sozialen Medien präsentieren, und muss noch Bewältigungsmechanismen anwenden.

„Die Druckmaschine war nicht störend“, sagt Frances. „Menschen das Lesen beizubringen, war disruptiv.“

Aber trotz ihrer lebensbestimmenden Erfahrung in Menlo Park ist sie nicht gegen Facebook.

„Es ist für eine ethische Person möglich, bei Facebook zu arbeiten“, sagte sie. „Wir brauchen gute Leute, die ihre Augen offen haben, um zu sehen, wie sie arbeiten. Ich denke, wir sollten öffentlich finanzierte Stipendien haben, um an diesen Institutionen zu arbeiten. Diese Systeme werden sich ändern, wenn dort gute Leute arbeiten.“

Sie ermutigte die Menschen, „einen Schritt zurückzutreten“, und betrachtete die Geschichte der Alphabetisierung.

„Beginnen Sie im Jahr 1900. Bis zum Ersten Weltkrieg stellten wir fest, dass Sie wahrscheinlich nicht lesen und schreiben konnten, wenn Sie nicht in einer Stadt lebten. Wir müssen in einer Gesellschaft leben, in der jeder lesen und schreiben kann – Bildung ist wichtig, wenn man Macht kontrollieren will.“

Das Publikum wurde eingeladen, Fragen für den letzten Teil der Sitzung zu stellen. Jemand fragte, ob Mark Zuckerbergs erklärte Absicht, die Arbeitsweise von Facebook zu ändern, echt sei. Es stellte sich heraus, dass sich Frau Haugens radikalste Analyse der Probleme von Facebook auf den Charakter seines totemistischen Anstifters konzentriert.

„Ich bin keine Psychologin“, antwortete sie, „und ich habe Mark nie getroffen, aber ich weiß, dass er viele grundlegende Erfahrungen verpasst hat. Er verließ das College mit 19 und [straight away] muss der Boss sein. Im Suchtunterricht heißt es, wenn man mit 16 anfängt zu trinken, benutzt man es als Krücke.

„2016 hatte er ein traumatisches Jahr. Als er nach Afrika ging, sagten sie, er sei ein Retter, er sei hoch im Kurs – und sechs oder sieben Monate später [following Donald Trump’s election to the US presidency] es war, als würde er die Demokratie zerstören. Vielleicht hat er deshalb das Metaversum gestartet.“

Sie fuhr fort: „Es besteht die Gefahr, dass Tests isoliert durchgeführt werden. Das Wort ‚Metaversum‘ stammt eigentlich aus einem dystopischen Roman, es ist kein Streben, es handelt von einer Gesellschaft im Verfall.“

Der Autor Neal Stephenson prägte den Begriff „Metaversum“ in seinem Science-Fiction-Roman von 1992 Schneecrashdas sich ein Virtual-Reality-basiertes Paralleluniversum vorstellt, in dem digitale Avatare eine Online-Welt erkunden, um einer dystopischen Realität zu entkommen.

„Er verbringt den ganzen Tag auf Metaverse“, behauptete Frances und fügte hinzu: „Es besteht die Gefahr, ein virtuelles Ersatzleben zu schaffen. Was sind die Konsequenzen? Wir müssen das berücksichtigen, weil wir beginnen, den Weg einzuschlagen, auf dem die Leute den ganzen Tag mit ihren Headsets verbringen.“

Was ist mit denen um ihn herum? Nick Clegg, der ehemalige Vorsitzende der Liberaldemokraten und ehemalige stellvertretende Premierminister des Vereinigten Königreichs, kam im Oktober 2018 als Vizepräsident für globale Angelegenheiten zu Facebook und ist derzeit Präsident für globale Angelegenheiten bei Meta.

„Solange Mark nicht geheilt ist, kann er uns nicht heilen. Er flüchtet ins Metaverse, und das wirklich Traurige ist, dass Nick Clegg …“ Sie hielt inne, weil das Publikum zum ersten Mal in Gelächter ausgebrochen war … „Mark Zuckerberg hatte im Alter von 19 Jahren keine Ahnung, was er von sich selbst stahl , aber Nick Clegg sagt Mark Zuckerberg, dass „die Leute neidisch auf dich sind“ und „du eine Wachstumserfahrung durchmachst, du musst akzeptieren, dass du manchmal sehr unbeliebt sein wirst“.

„Mark wird durch seine eigenen Entscheidungen verletzt – es geht um Macht und die Machtlosen. Er hat Lösungen, die er heute veröffentlichen könnte, die den Inhalt nicht berühren … es hat keine Auswirkungen auf den Gewinn.“

Frances’ Aussage vor dem Gemeinsamen Ausschuss des britischen Parlaments zum Entwurf des Online-Sicherheitsgesetzes im Oktober offenbarte lang gehegte Besorgnis über Gewalt und Instabilität in Myanmar und Äthiopien, die von Facebook geschürt würden: Sie behauptete, dass Facebook an Orten wie Äthiopien „buchstäblich ethnische Gewalt schüre“. weil es seinen Dienst außerhalb der USA nicht angemessen überwachte.

„Wenn Mark leidet, weil er sich für die Meinungsfreiheit einsetzt, kostet ihn das 0,1 oder 0,2 Prozent des Gewinns. In einigen Ländern machen erneute Freigaben 35 Prozent der Inhalte aus.“

Meta – ehemals Facebook Inc – erzielte im Jahr 2021 einen Umsatz von 117 Milliarden US-Dollar. Es gibt Bedenken wegen mangelnder Investitionen in die Moderationsteams, die zur Überwachung der Plattform erforderlich sind. Frau Haugen merkt an, dass das Sicherheitsteam „auf amerikanisches Englisch eingestellt ist“.

„In 14 Sprachen sind vier Prozent der Inhalte Fehlinformationen…. Welche Moderatoren sprechen die Sprachen, wo sitzen sie? Die ukrainischsprachigen Moderatoren saßen bis letzten September in „Russland“. Die Technik muss im Haus der Demokratie wohnen.“

Der Kommentar kommt, als Mark Zuckerberg von einem Generalstaatsanwalt in Washington DC wegen seiner genauen Rolle im Cambridge-Analytica-Skandal verklagt wurde.

Sie schloss: „Mark ist wirklich isoliert … er muss einige seiner Aktien verkaufen.“

Prof. Neff fragte dann: „Was können wir als Einzelne tun?“

Frances hat weithin die Gefahren des in Afrika verwendeten Modells Facebook proklamiert, wo es kostenloses Internet bereitgestellt hat – alles wird von Facebook gehostet, sogar die Geschäftsseiten und der Zugang zu Medikamenten. Sein 2015 gestarteter Internetdienst Free Basics deckt mittlerweile 32 afrikanische Länder ab.

„Die Realität ist, dass Menschen an Orten wie Äthiopien sagen: ‚Facebook hat uns im Stich gelassen, es gab keine Unterstützung’“, antwortete Haugen. „Es ist so disruptiv geworden, dass sie sagen, wir bauen unser eigenes Ding auf, und jemand hat gesagt, WeChat könnte das neue Modell sein – das in China basiert. Wir stehen kurz vor einem Kalten Krieg zwischen einem libertären Internet und einem autoritären Internet.

„Wenn wir Afrika verlieren, betrifft uns das alle. Wir müssen anfangen, über diese Dinge zu sprechen, weil wir noch Zeit haben, in einer anderen Zukunft zu leben.“