Es dauerte weniger als eine Stunde, bis ein Forscher, der Metas Titel-Metaverse studierte, „praktisch vergewaltigt“ nach dem ersten Aufsetzen der VR-Brille. Nach Tagen des Zeugens und Erlebens von Verschwörungstheorien, sexueller Belästigung, Rassismus und Homophobie sagten die Autoren eines kürzlich erschienenen Berichts, dass der Technologieriese völlig schlecht darauf vorbereitet ist, seinen Traum zu verwirklichen, einen gemeinsamen Online-Raum für Millionen von Benutzern zu schaffen.

Die gemeinnützige Unternehmensüberwachungsgruppe SumOfUs veröffentlicht sein Bericht letzte Woche beschreiben Meta ist geb. Facebook Übergang von einem auf soziale Medien fokussierten Unternehmen zu einem Unternehmen, das versucht zu definieren, was es bedeutet, in einer pseudophysischen Umgebung online zu sein. Die Gruppe dokumentierte auch, wie als VR-Plattform von Metas sind auf über 300.000 Benutzer angewachsen, Metaversum-Flaggschiffprodukt Horizon Worlds, beherbergt bereits die schlimmsten rassistischen und frauenfeindlichen Karikaturen des Internets. SumOfUs enthielt sogar einen Link zu a Video (Hinweis, Triggerwarnung für sexuelle Übergriffe) als Benutzer einen Forscher in einen Raum führten und ihren Avatar-Oberkörper in einer Art Buckelbewegung hin und her bewegten, während ein anderer Benutzer versuchte, eine Wodkaflasche herumzureichen.

SumOfUs war nicht davor zurückgeschreckt Haltung gegenüber Meta und sein Eintreten gegen große Unternehmen in einer Vielzahl anderer Themen, aber dieser Bericht teilt einiges viele Beweise dafür, wie wenig Moderation im Spielbereich von Horizon vor sich geht. Die Forscher des Berichts wurden offenbar durch verschiedene Welten in dem Meta-eigenen Produkt herumgepirscht. Es gab Beispiele für gefälschte Drogen, die auf Tischen ausgelegt waren, und Benutzer, die sich ständig gegenseitig als rassistische und homophobe Beleidigungen bezeichneten.

„Meta treibt das Metaverse voran, ohne einen klaren Plan, wie es schädliche Inhalte und Verhaltensweisen, Desinformation und Hassreden eindämmen wird“, heißt es in dem Bericht. Das Unternehmen weiß nicht nur, dass die Moderation von Inhalten ein Problem ist, es hat auch keinen genauen Plan, wie es es beheben könnte. Berichterstatter zitiert ein internes Memo vom März geteilt von der Financial Times und geschrieben von Metas Vizepräsident von VR Andrew Bosworth. Der Meta VP sagte laut FT, dass die Moderation von Benutzern „in jeder Größenordnung praktisch unmöglich ist“.

Das explizite Versprechen des Metaversums ist es, einen digitalen Bereich zu besetzen und mit Menschen zu interagieren, als ob Sie alle wirklich dort wären. Obwohl Online-Belästigung nichts Neues ist, nehmen explizite Inhalte dieser Art eine instinktivere Natur an, sobald Sie die Schutzbrille aufsetzen, die Ihnen das Gefühl geben soll, im Raum zu existieren.

G/O Media kann eine Provision erhalten

Sparen Sie $70

Apple AirPods max

Erleben Sie Sound der nächsten Stufe Räumliches Audio mit dynamischer Kopfverfolgung bietet einen Sound wie im Kino, der Sie umgibt

Die Watchdog-Gruppe wies auch auf mehrere andere Beispiele hin, bei denen Benutzer mit weiblichen Avataren sexuelle Übergriffe meldeten, darunter eines, bei dem ein männlicher Benutzer sagte, er habe die Stimme einer Spielerin aufgenommen, um sich zu „wichsen“. Meta hatte bereits eine eingeführt Funktion „persönliche Grenze“. im Februar, der andere Avatare daran hindert, sich zu nahe an den Körper eines anderen Spielers zu wagen. Andere virtuelle Chatrooms wie VR Chat haben bereits ähnliche Funktionen integriert, aber die Avatare der SumOfUs-Forscher wurden ständig gebeten, persönliche Grenzeinstellungen zu entfernen. Wenn ein anderer Benutzer versucht, Sie zu berühren oder mit Ihnen zu interagieren, vibrieren die VR-Controller, „was während eines virtuellen Angriffs eine sehr desorientierende und sogar verstörende physische Erfahrung erzeugt“, so der Bericht.

Ein Meta-Sprecher sagte Insider, dass die Einstellung für persönliche Grenzen standardmäßig aktiviert ist und nicht empfohlen wird, sie in der Nähe von Fremden auszuschalten, und fügte hinzu: „Wir möchten, dass jeder, der unsere Produkte verwendet, eine gute Erfahrung macht und leicht die Tools findet, die in Situationen helfen können wie diese, damit wir Nachforschungen anstellen und Maßnahmen ergreifen können.“

Obwohl Horizon Worlds eine Kindersicherung sowie die Möglichkeit bietet, andere Benutzer stummzuschalten, stellt die Plattform für viele junge Benutzer immer noch ein großes Problem dar, insbesondere da Forscher sahen, dass andere Avatare Menschen dazu ermutigten, Sicherheitsfunktionen zu deaktivieren. Die App ist technisch gesehen über 18 Jahre alt, aber aktuelle Benutzer sagten, die Plattform sei bereits voll von Minderjährigen. Im Gegensatz zu Social-Media-Plattformen, die Systeme verwenden können, um geschriebene Inhalte oder sogar Videos zu überwachen, verlassen sich aktuelle Virtual-Reality-Chatrooms darauf, dass einzelne Benutzer schlechtes Verhalten melden.

Aktuelle selbsternannte „Metaversen“ wie das kinderzentrierte Roblox haben gezeigt, wie schwierig es ist, böses Spielerverhalten einzudämmen. Es gab frühere Beispiele für Avatare andere Spieler im Alter von 7 Jahren sexuell angreifen. Horizon Worlds enthält angeblich In-Game-Moderatoren, um Richtlinien durchzusetzen, aber der Bericht besagt, dass Spieler in Interviews sagten, dass es nicht annähernd genug von ihnen gibt. Und das ist nicht nur ein Problem für Metas Plattform. VR-Chat hat beunruhigende Inhalte beherbergt auf einer Plattform kleine Kinder die wissen, wie man ein Geburtsdatum vortäuscht, können leicht zugreifen.

Die Autoren des Berichts sind nicht die einzigen, die Meta und seinen CEO Mark Zuckerberg angreifen, insbesondere wegen der Art von Produkt, das sie zu bauen versuchen. Amazons Leiter der Geräte bemerkte kürzlich, dass niemand wirklich definieren kann, was das „Metaversum“ wirklich ist. Snap-CEO Evan Spiegel nannte die Technologie mehr „hypothetisch” als alles. Ex-Nintendo of America-Manager Reggie-Fils-Aimé sagte, Meta sei „kein innovatives Unternehmen“, und fügt hinzu, dass der selbsternannte Metaverse-Pionier nicht gezeigt hat, dass er weiß, wie man Innovationen anführt.

Aber mehr als nur Tech-Manager, die den Wettbewerb schlagen, zeigen die Kommentare, wie viel Unklarheit immer noch für die Idee eines gemeinsamen digitalen Raums besteht. Nick Clegg, Leiter für globale Angelegenheiten bei Meta, kürzlich geschrieben dass die Bitte an Meta, die Sprache der Spieler aufzuzeichnen, um Inhalte zu moderieren, so wäre, als würde man einen Barmanager bitten, Gespräche zu belauschen und Dinge zum Schweigen zu bringen, die ihm nicht gefallen. Stattdessen will sich das Unternehmen auf KI-gesteuerte Systeme konzentrieren, die helfen, auf Benutzerberichte zu reagieren.

„Wir befinden uns in der Anfangsphase dieser Reise“, schrieb Clegg.

Aber die extrem Meta-kritischen Autoren von SumOfUs sagten im Wesentlichen, dass wenn irgendjemand das Metaverse-Schiff steuern wird, es besser nicht Meta sein sollte.

„Meta hat wiederholt gezeigt, dass es nicht in der Lage ist, schädliche Inhalte auf Facebook, Instagram und WhatsApp angemessen zu überwachen und darauf zu reagieren – daher ist es nicht verwunderlich, dass es auch auf dem Metaverse bereits versagt“, sagten die SumOfUs-Autoren.