In einer am Montag beim kalifornischen Bundesgericht eingereichten Klage wegen Körperverletzung wird behauptet, Instagrams Muttergesellschaft Meta habe absichtlich Produkte hergestellt, um junge Benutzer süchtig zu machen, und ein 11-jähriges Mädchen auf einen jahrelangen Weg körperlicher und psychischer Schäden geführt.

Der Fall, gebracht von der Rechtszentrum für Opfer von sozialen Medien behauptet im Namen des heute 19-jährigen Alexis Spence, Instagram habe sein Produkt „konsequent und wissentlich“ auf kleine Kinder ausgerichtet und gleichzeitig interne Warnungen vor seinen sich verschlechternden Auswirkungen auf die psychische Gesundheit seiner Nutzer ignoriert.

„Als Ergebnis von Alexis ‘Sucht nach Instagram musste sie sich einer professionellen Beratung, stationären Programmen, ambulanten Programmen unterziehen, an Programmen für Essstörungen teilnehmen und wird wahrscheinlich für den Rest von ihr Hilfe in Form eines Begleithundes benötigen Leben, sowie laufende medizinische Versorgung, um sicherzustellen, dass sie nicht abschweift“, sagten die Anwälte.

Ihr Anzug hängt an und zitiert direkt die Facebook-Papiere, die Fundgrube interner Dateien, die im vergangenen Herbst von der Facebook-Whistleblowerin Frances Haugen geleakt wurden. Darunter waren vertrauliche Berichte und Präsentationen, die Instagram als eine Plage für die psychische Gesundheit von Jugendlichen darstellten. Die Klage gehört zu den ersten, die die Dokumente gegen Meta vor Gericht verwendet und nicht vor dem Gericht der öffentlichen Meinung.

Die Klage ist auch die jüngste in einer Welle neuer Fälle im ganzen Land, in der Hoffnung, einen Weg zu finden, den Haftungsschutz zu umgehen, der auf Website-Eigentümer und -Betreiber ausgedehnt wurde Abschnitt 230 des Communications Decency Act. Der 1996 verabschiedete Abschnitt 230 gilt als grundlegend für das Internet, wie es heute existiert, und ermöglicht es großen Technologieunternehmen und alltäglichen Benutzern, ihre eigenen Websites zu moderieren, ohne befürchten zu müssen, in Gerichtsverfahren über von Dritten gepostete Inhalte begraben zu werden.

„Es gibt landesweit konzertierte Bemühungen, Klagen gegen Internetdienste als Angriff auf ihre Softwaretools umzugestalten, nicht als Angriff auf die Inhalte, die mit ihnen veröffentlicht werden“, sagte Eric Goldman, Juraprofessor an der Santa Clara University, Gizmodo telefonisch.

Meta lehnte es ab, den Spence-Fall zu kommentieren, unter Berufung auf aktive Rechtsstreitigkeiten, aber ein Sprecher wies Gizmodo auf eine Reihe von Funktionen hin, von denen sie sagten, dass sie Menschen helfen sollen, die mit Problemen mit dem Körperbild zu kämpfen haben.

Spence kam in der fünften Klasse zu Instagram, zwei Jahre zu jung, um der App unter dem Mindestalter beizutreten, so die Klage. In der Beschwerde wird behauptet, ihre Sucht nach Instagram sei das Ergebnis bewusster Bemühungen des Unternehmens, ein Produkt zu entwickeln, das von Natur aus süchtig macht und hat zahnlose Support-Funktionen.

Der Kongress hat die Klage bereits zur Kenntnis genommen. Rep. Tom Malinowski, ein Demokrat aus New Jersey, der Co-Autor von a Gesetzgebung Letztes Jahr, das auf Social-Media-Algorithmen abzielte, die es versäumten, Eingriffe in die Bürgerrechte zu verhindern, sagte der Fall Spence, er sei nur der letzte, der die „realen Schäden aufzeigt, die durch ausgeklügelte Algorithmen verursacht werden, die uns an unsere Bildschirme kleben sollen – Essstörungen, Selbstmorde, Masse Schießereien, Aufstände.“

Kurz nachdem sie beigetreten war, trieb der Algorithmus von Instagram laut Beschwerde die jüngere Spence schnell zu einem endlosen Strom problematischer Inhalte; untergewichtige Models und Links zu Websites mit extremen Diäten, die „Anorexie, negatives Körperbild und Selbstverletzung,“, sagen ihre Anwälte. Dies spornte schließlich eine Essstörung an, sagten sie sagte, vorausgehende Jahre der Angst, Depression und Selbstmordgedanken. Ein Krankenhausaufenthalt war zwangsläufig notwendig.

Die Facebook Papers, die Gizmodo begann im April zum ersten Mal mit der Veröffentlichung, enthüllte der Welt, dass Meta wusste, wie einige seiner Benutzer über ihre Nutzung von Social Media dachten: schlecht. Eine durchgesickerte Umfrage des Unternehmens ergab, dass viele Teenager Instagram direkt für Angstzustände und depressive Episoden verantwortlich machten. Diese Selbstdiagnosen wurden „unaufgefordert“ gemeldet, sagte das Unternehmen, und waren „über alle Gruppen hinweg konsistent“.

„Zweiunddreißig Prozent der Teenager-Mädchen gaben an, dass Instagram ihnen ein schlechteres Gefühl gab, wenn sie sich schlecht in Bezug auf ihren Körper fühlten“, heißt es in einer durchgesickerten Präsentation vom März 2020.

Facebook reagierte damals auf das Leck, indem es die negativen Auswirkungen herunterspielte, die es als „ziemlich gering“ bezeichnete. Führungskräfte stellten fest, dass die durchgesickerten Forschungsergebnisse nach keinem akademischen Standard als wissenschaftlich angesehen wurden. Der Großteil davon wurde von Marketingmitarbeitern durchgeführtund die negativen Auswirkungen basierend auf subjektiven, retrospektiven Analysen, die von Benutzern selbst berichtet wurden. Bei einer Kongressanhörung im vergangenen Jahr wies Meta-CEO Mark Zuckerberg auf gegensätzliche Forschungsergebnisse hin, die die Nutzung sozialer Medien mit positiven Vorteilen für die psychische Gesundheit in Verbindung bringen. Ähnliche Umfragen, die 2018 vom Pew Research Center durchgeführt wurden, ergaben beispielsweise, dass Teenager Social-Media-Apps eher assoziieren positive Gefühle– obwohl die Stimmung „alles andere als einstimmig“ war.

Gleichzeitig zeigten Dokumente, dass Meta – damals einfach als Facebook bekannt – sich bemüht hatte, seine Marke bei Benutzern einzuschmeicheln, die Jahre zu jung waren, um tatsächlich seinen Plattformen beizutreten. Interne BezSuche, nie für die bestimmt öffentliches Augestellte Kinder im Alter von nur 10 Jahren kaltherzig als „wertvolle“ und „unangezapfte“ Ressource dar, die für das Wachstum des Unternehmens von entscheidender Bedeutung sei.

Die nach Abschnitt 230 gewährte Immunität ist nicht absolut, wie die jüngste Entscheidung eines Bundesgerichtshofs zeigt. Vor etwa einem Jahr stellte der Neunte Bezirksgerichtshof fest, dass es eine ausreichende Unterscheidung zwischen Behauptungen über von einer Website veröffentlichten Inhalten – die unter Abschnitt 230 fallen würden – und Vorwürfen der Fahrlässigkeit, die auf das hinweisen, gebe zugrunde liegende Software dahinter a Funktionalität des sozialen Netzwerks. Spences Fall gegen Instagram scheint ein weiterer Versuch zu sein, diese Bemühungen auszubauen.

Goldman, ein entschiedener Befürworter von Section 230, der glaubt, dass Bemühungen um eine Änderung weitgehend politisch motiviert sind, kritisierte auch das Urteil des Ninth Circuit.

Dieser Fall, der noch ungeklärt ist, dreht sich um die Funktion „Geschwindigkeitsfilter“, die Snapchat letztes Jahr entfernt hat. Der Filter wurde entwickelt, um Benutzern zu ermöglichen, zu erfassen, wie schnell sie sich bewegten, führte aber angeblich dazu, dass einige Benutzer prahlerische Rechte verfolgten, indem sie rücksichtslos mit überhöhter Geschwindigkeit fuhren. Mehrere Todesfälle dazwischen 2015 und 2017 wurden dem Filter zugeschrieben, einschließlich der von drei junge Männer in Wisconsin, der tödlich gegen einen Baum prallte. Die App taktete ihr Auto, das sich kurz vor dem Unfall mit 123 Meilen pro Stunde bewegte.

Das Ninth Circuit entschied, dass Abschnitt 230 keine anwendbare Verteidigung darstellt, solange sich die Kläger weiterhin auf das Softwaredesign von Snapchat und nicht auf die auf seiner Plattform geteilten Inhalte konzentrieren. Ähnlich scheinen Spences Anwälte zu sein zielstrebig süchtig machende Aspekte des Algorithmus von Instagram eher als nur das Inhalt Spence vielleicht konsumiert haben.

„Auch hier sprechen Sie über den Algorithmus und die Art und Weise, wie die Beschwerde formuliert werden kann, bezieht sich wirklich mehr auf den Gesamtdienst, dass alles am Dienst darauf ausgelegt ist, die Nutzung zu fördern, und dass die geförderte Nutzungsmenge das Problem verursacht hat.“ sagte Goldmann. „Das bedeutet nicht, dass sie gewinnen werden, aber sie haben vielleicht einen Weg gefunden, um Abschnitt 230 zu umgehen.“

Es sei schwierig, ein Produkt, das Inhalte bewirbt, von den Inhalten zu trennen, für die es wirbt, sagte Goldman, selbst wenn die Gerichte eine rechtlich bedeutsame Unterscheidung feststellen. „Ich verstehe auf der großen strukturellen Ebene, ja, sie versuchen nicht zu behaupten, dass sie für Inhalte von Drittanbietern klagen, sie klagen auf der Grundlage des Softwaredesigns“, sagte er. „Aber für mich fallen diese in jeder materiellen Hinsicht zusammen.“

Malinowskis Rechnung, die Gesetz zum Schutz der Amerikaner vor gefährlichen Algorithmenwar eine von zahlreichen im vergangenen Jahr angestrebten Änderungen des § 230. Ob aufgrund der schieren Komplexität des Themas, nicht absehbar Auswirkungen auf die globale Internetökonomie oder parteiische Meinungsverschiedenheiten über was genau zu ändernkeine der Rechnungen gewonnen viel Traktion.

„Große Social-Media-Plattformen sollten keine pauschale rechtliche Immunität für schädliche Inhalte genießen, die sie aktiv verstärken, fördern oder ihren Nutzern empfehlen.“ Malinowski erzählte Gizmodo.

Heute, woWenn Nutzer auf Instagram auf Inhalte stoßen, die sich auf Selbstverletzungen oder Essstörungen beziehen, soll die App „potenziell auslösende Bilder“ kennzeichnen und sie dabei unkenntlich machen Verweisen von Benutzern auf Hotline-Ressourcen, die von Gruppen wie der National Eating Disorders Association angeboten werden.

Zusätzliche Sicherungen sind ebenfalls vorhanden, sagt Metaeinschließlich Tools zur AltersüberprüfungBeschränkungen auf DMs zwischen Erwachsenen und Teenagern und standardmäßige Datenschutzeinstellungen für alle Benutzer unter dem Alter von 16.

Wenn Sie oder jemand, den Sie kennen, Selbstmordgedanken oder Selbstverletzungen haben, rufen Sie bitte 911 oder die National Suicide Prevention Hotline unter 1-800-273-8255 an. Opfer von Cybermobbing in sozialen Medien können SMVLC unter kontaktieren www.socialmediavictims.org oder telefonisch unter 1-800-834-6994.