Dieses Stück ist Teil von Gizmodos laufenden Bemühungen, die Facebook-Papiere der Öffentlichkeit zugänglich zu machen. Sehen Sie sich das vollständige Verzeichnis der Dokumente an hier.

In einer Präsentation vom 6. Mai 2018 fragte ein Facebook-Mitarbeiter: „Ist Ranking gut?“

“Wahrscheinlich. Selbst die Frage zu stellen fühlt sich bei Facebook leicht blasphemisch an“, antwortete derselbe Mitarbeiter unten in kleinerem Text. „So viele Experimente und Produkteinführungen demonstrieren den Wert des Rankings [sic] Wert wird oft als Glaubensartikel angesehen.“

„Ranking“ bezieht sich darauf, wie das größte soziale Netzwerk der Welt priorisiert, welche Inhalte Benutzer im News Feed, dem Flaggschiffprodukt von Facebook, sehen. Die Liste der Posts, die Benutzer sehen, wenn sie Facebook zum ersten Mal öffnen, war einst in einfacher chronologischer Reihenfolge; Jetzt ordnen vom Unternehmen entwickelte Algorithmen die Posts basierend auf dem ihnen zugewiesenen Wert an. Der Mitarbeiter traf den Kern einer zentralen Frage innerhalb von Facebook, jetzt bekannt als Meta: Wie kann man Gewinnmaximierung und Wachstum mit ermutigenden Verhaltensweisen in Einklang bringen, von denen die Designer der Algorithmen wussten, dass sie nicht gesund sind. Die Ranking-Algorithmen des Unternehmens erhöhten die Zeit, die Benutzer auf Facebook verbringen, aber die Mitarbeiter stellten fest, dass dies laut der Diashow schlechtere Freundschaften förderte. Ist das Ranking also gut? Anders gesagt: Ist Ranking seine Konsequenzen wert?

Die Präsentation ist Bestandteil die Facebook-Papiere, eine Fundgrube von Dokumenten, die einen beispiellosen Einblick in das mächtigste Social-Media-Unternehmen der Welt bieten. Die Aufzeichnungen wurden dem Kongress erstmals letztes Jahr von zur Verfügung gestellt Franz Haugen, ein Facebook-Produktmanager, der zum Whistleblower wurde und später von Hunderten von Journalisten, einschließlich denen von Gizmodo, erlangt wurde. Haugen sagte im Oktober 2021 vor dem Kongress über die Schäden von Facebook aus.

Heute als Teil einer fortlaufenden Anstrengung, die Facebook-Papiere zu erstellen öffentlich verfügbarveröffentlicht Gizmodo einen zweiten Stapel von Dokumenten – insgesamt 37 Dateien. In unserem ersten Tropfen haben wir geteilt 28 Dateien im Zusammenhang mit den Wahlen 2020 und dem Angriff vom 6. Januar auf das US-Kapitol. Nur ein paar Seiten jemals gewesen der Öffentlichkeit gezeigt Vor. Gizmodo hat Partner mit einer Gruppe unabhängiger Experten, um die Dokumente zu überprüfen, zu redigieren und zu veröffentlichen. Dieser Ausschuss dient dazu, unsere Arbeit zu beraten und zu überwachen und die verantwortungsvolle Offenlegung einer größtmöglichen Anzahl von Dokumenten im öffentlichen Interesse zu ermöglichen. Wir glauben an den Wert des offenen Zugangs zu diesen Materialien. Unser gemeinsames Ziel ist es, potenzielle Schäden zu minimieren, die sich aus der Offenlegung bestimmter Methoden ergeben könnten, mit denen Meta sensible Themen wie Sexhandel, Desinformation und Wählermanipulation angeht.

Der heutige Stapel bietet einen Einblick, wie Meta die von seinen Benutzern eingereichten Inhalte einordnet. Es ist ein System, das nur sehr wenige Menschen zu verstehen scheinen, ein Problem, für das das Unternehmen scheinbar keine Anhaltspunkte hat, wie es gelöst werden kann. Die Auswahl dieser Dokumente als Folgedokument zu den wichtigsten politischen Ereignissen der letzten zwei Jahre spricht dafür, wie hoch wir ihre Bedeutung für das Verständnis der Auswirkungen von Facebook auf die Welt einschätzen.

Diese Dokumente bieten einen ungefilterten, wenn auch fragmentierten Einblick in die jahrelangen Versuche von Facebook, jedem Wischen und Klicken in seiner App einen emotionalen Wert zuzuweisen. Dieser Prozess, der einen übergroßen Einfluss auf die Arten von Informationen hat, die am häufigsten auf der Plattform angezeigt werden, wird als Ranking bezeichnet. Es untermauert eines der Kernfeatures von Facebook: den News Feed (oder einfach nur den „Feed“, wie das Unternehmen ihn jetzt lieber nennt).

Mehrere Schlüsseldokumente betreffen das, was Facebook „sinnvolle soziale Interaktionen“ nennt, ein Begriff, der vom Unternehmen im Januar 2018 eingeführt wurde. Diese Kennzahl, so CEO Mark Zuckerberg erklärt zu dieser Zeit sollte dazu beitragen, „persönlichen Verbindungen“ Vorrang vor einem endlosen Online-Dribbling von viralen Nachrichten und Videos zu geben. Diese „große Änderung“, wie er es ausdrückte, wurde als Versuch formuliert, das „Glück und die Gesundheit“ des Benutzers an die erste Stelle zu setzen – Facebooks Art, Benutzer zu ermutigen, Facebook häufiger zu besuchen, indem das Gefühl der persönlichen Verbindung zu ihren Feeds hergestellt wird .

Was macht eine sinnvolle soziale Interaktion aus? Metas Formulierung wirkt absichtlich undurchsichtig: Es könnte ein kühles Bier mit einem alten Freund sein oder vielleicht ein Essen mit der ganzen Familie unter einem Dach. Für Facebook ist es ein mathematisches Problem; eine Möglichkeit, einen Computer so zu trainieren, dass er den harmlosesten Online-Verhaltensweisen – dem Putten – einen gewissen Wert zuweist ein Aufkleberzum Beispiel auf dem Post eines zufälligen Verrückten.

Zuckerberg hat dementiert vor dem Kongress dass „die Zeit, die die Leute damit verbringen“, auf ihre Feeds zu starren, schon immer das Ziel von Facebook war. Es ist eine Behauptung, die allem, was wir über sein Geschäft wissen, widerspricht die Worte seines eigenen obersten Stellvertreters. Tatsächlich sind die finanziellen Offenlegungen von Meta seit Jahren gültig gewarnt Investoren Folgendes: „Wenn es uns nicht gelingt, bestehende Benutzer zu halten oder neue Benutzer hinzuzufügen, oder Wenn unsere Benutzer ihr Engagement für unsere Produkte verringern, können unsere Einnahmen, Finanzergebnisse und unser Geschäft erheblich beeinträchtigt werden.“ (Hervorhebung von uns.) Im Februar verlor Facebook Hunderte von Milliarden an Börsenwert aufgrund von Berichten, dass die Anzahl der aktiven Nutzer zum ersten Mal überhaupt gesunken ist. Das Unternehmen hat alle Motivation, neue Benutzer zu gewinnen und die Verweildauer bestehender Benutzer im sozialen Netzwerk zu erhöhen.

In Bezug auf das Ranking enthalten die folgenden Dokumente ein Eingeständnis eines Mitarbeiters, das auf Facebooks Dilemma zwischen Wachstum und Benutzergesundheit hinweist. Der Mitarbeiter schrieb, dass die Beweise für das Ranking „umfangreich und nahezu universell“ seien. Leute mögen Ranglisten-Feeds mehr als chronologische. Laut dem Mitarbeiter „fallen die Nutzung und das Engagement sofort ab“, wenn das Ranking des Feeds deaktiviert ist. Die erhöhte Nutzung hat jedoch ihren Preis. Die Qualität der Gesamterfahrung des Benutzers nimmt ab. Der Mitarbeiter argumentiert weiter, dass die modifizierten Feeds zwar den „Konsum“ – interner Facebook-Code für die mit Facebook verbrachte Zeit – unbestreitbar steigern, aber auch die Dynamik der „Freundschaft“ verändern, um „persönliches Teilen“ zu verhindern.

„Je besser der Ranking-Algorithmus, desto geringer die Kosten für ‚schlechte’ Freundschaften“, schreibt der Mitarbeiter und merkt an, dass Nutzer ohne gemeinsame Interessen die Beiträge des anderen wahrscheinlich nicht sehr oft sehen werden. „Indem die Kosten für Freundschaften auf nahezu null gesenkt werden, verändert das Ranking die Semantik von Freundschaften von ‚Ich interessiere mich um dich‘ zu ‚Mich interessiert möglicherweise etwas, das du eines Tages teilst.‘“

Mit anderen Worten, das Ranking fördert das Teilen von weniger sinnvoll Posts, während „schlechte Inhalte aufgrund der kostenlosen Ansammlung von Freunden weiter verbreitet werden“, so die Präsentation. Die Stimmung ist jedoch nicht überall bei Facebook: Mitarbeiter in den Kommentaren waren anderer Meinung.

Was uns diese Dokumente zeigen, ist, dass trotz all des Händeringens von Facebook darüber, was es für „sinnvoll“ für die Benutzer hält oder „ihrer Zeit wert“ ist, die Mitarbeiter das Ranking als viel zu komplex und zu unverständlich ansehen, um es jemals zu bekommen die Arbeit richtig gemacht. Sie wissen auch, dass es sich um ein System handelt, von dem die Zukunft von Facebook abhängt.

Rankingbezogene Erklärer

Ein Dokument, in dem ein Mitarbeiter poetisch über den „Zweck“ von Feeds spricht, sowohl für Facebook-Nutzer als auch für die ganze Welt.

Ein weiteres Dokument, das poetisch wird. Spoiler: Die Antwort lautet „manchmal, für einige Leute“.

Rankingbezogene Plattform- und Produkt-Updates

Ein Dokument, das ein neues Ranking-Experiment ankündigt, mit dem „hetzerische Inhalte und Fehlinformationen“ in Hochrisikoländern wie Sri Lanka und Äthiopien reduziert werden sollen.

Ein Dokument, das ein neues Ranking-Experiment in Bezug auf „bürgerliche“ oder politische Inhalte ankündigt, das dazu gedacht ist, mehr Inhalte zu sammeln, die „die Zeit des Benutzers wert“ sind.

Rankingbezogene Vorschläge

Dieses Dokument schlägt eine neue, etwas esoterische Art vor, intern über „Produzenten“ und „Konsumenten“ von Inhalten in den Feeds von Menschen nachzudenken.

Papiere, in denen „Herabstufungen“ in Feeds diskutiert werden

Ein Erklärer aus dem Jahr 2020 über einige der relativ neuen Methoden, mit denen das Unternehmen die Gesamteffektivität von Abstufungen misst.

Eine interne Markierung aus dem Jahr 2021, die darauf hinweist, dass bestimmte Herabstufungen nicht so genau sind, wie sie sein sollten, teilweise aufgrund der Abhängigkeit des aktuellen Systems von URLs.

Ein Dokument, das potenzielle Strategien beschreibt, um Herabstufungen transparenter zu machen.

Ein Dokument, das erklärt, warum Transparenz über Herabstufungen in den Feeds von Personen den Benutzern nicht unbedingt klar macht, wie „legitim“ oder „gerechtfertigt“ diese Herabstufungen sind.

Eine interne Mitteilung, die klarstellt, wie „transparent“ das Unternehmen in Bezug auf Herabstufungen von Inhalten im globalen Süden sein sollte. Die Antwort ist “nicht sehr!”

Eine interne Flagge über Einschränkungen, „Schattenverbote“ und Herabstufungen, die überproportional auf Inhalte trifft, in denen Palästina diskutiert wird.

Ein Dokument, in dem ein Mitarbeiter darüber spricht, was es bedeutet, „zum Schweigen gebracht“ zu werden und auf der Plattform „eine Stimme zu haben“ in Bezug auf das Ranking.

Die Ergebnisse eines Experiments, bei dem das Unternehmen die Herabstufung „trollartiger“ Kommentare zu den Posts von Personen getestet hat.

Ein Dokument, das die Kompromisse zwischen Inhalten, die die Zeit der Leute wert sind (über interne Metriken), und herabgestuften Inhalten beschreibt.

Eine Zeitleiste der unzähligen Herabstufungsexperimente des Unternehmens aus der zweiten Hälfte des Jahres 2020.

Ein Dokument aus dem Jahr 2020, in dem eine bevorstehende Änderung des Rankings bei politischen gesundheitsbezogenen Inhalten angekündigt wird.

Ein internes Audit der bestehenden Arbeit des Unternehmens im Degradierungsbereich.

Ein Dokument, das beschreibt, wie das Unternehmen den „Kollateralschaden“ messen und minimieren sollte, der den Feeds von Personen durch Herabstufungen entstehen kann.

Mögliche Ideen für Herabstufungen, die schlechte Schauspieler davon abhalten könnten, schlechte, herabstufungswürdige Inhalte zu posten.

Artikel über „sinnvolle soziale Interaktionen“ (MSI)

Eine Reihe von Notizen, die alles über „MSI“ erklären. Die Teile eins und drei enthalten vertrauliche Informationen über Meta, daher wurden sie weggelassen.

Eine interne Liste mit „nützlichen Links“, um zu erklären, was „sinnvolle soziale Interaktionen“ sind und wie das Unternehmen sie misst.

Ein kurzes Briefing, in dem einige der Grundlagen erläutert werden, wie „Sinnhaftigkeit“ Post für Post definiert wird.

Zwei Dokumente, die ein internes Experiment beschreiben, das durchgeführt wurde, nachdem das Unternehmen seine interne MSI-Metrik Mitte 2018 optimiert hatte, und insbesondere die Gesamtreaktion der Benutzer untersuchten.

Eine Übersicht darüber, wie MSI für kleine und große Seiten gemessen wird.

Eine Notiz, in der hinterfragt wird, wie viel „Spammy“-Posting-Verhalten zur Definition des Unternehmens von „sinnvollen sozialen Interaktionen“ beiträgt.

Eine Notiz, die beschreibt, wie das Unternehmen plant, „Engagement-Bait“ (auch bekannt als Clickbait), „Mobbing“ und das Verhalten von Spam-Kommentaren daran zu hindern, zur MSI-Metrik beizutragen.

Ein interner Test zur Verringerung der Auswirkungen, die „wütende“ Reaktionen auf Rankings und Herabstufungen haben.

Memos aus dem Jahr 2020, in denen bevorstehende Änderungen an der Art und Weise, wie MSI gemessen wurden, angekündigt wurden, um „aussagekräftigere“ oder „nützlichere“ Posts und Kommentare zu erfassen.

Ein internes offenes Forum, in dem gefragt wurde, ob das Unternehmen überdenken sollte, wie es „Aufkleber“ in Kommentaren misst, und sie vielleicht weniger „aussagekräftig“ machen sollte.

Eine Notiz mit den Ergebnissen eines Experiments zur Art und Weise, wie „Resharing“ in Bezug auf MSI berechnet wird.

Verschiedene Papiere

Ein Mitarbeiter beklagt den Verlust eines internen Tools, das den Mitarbeitern von Facebook half, das Ranking eines bestimmten Beitrags zu verstehen.

Ein Beitrag, in dem ein Mitarbeiter die „Verantwortung“ von Facebook bei der Entwicklung von Ranking-Algorithmen diskutiert.

Klicke hier um alle bisher veröffentlichten Facebook Papers zu lesen.