PDie Psychotherapeutin Nina Jane Patel war weniger als eine Minute auf Facebooks Horizon Venues gewesen, als ihr Avatar von einer Gruppe Männer angegriffen wurde. Die Angreifer gingen weiter zu „praktisch Gruppenvergewaltigung“ ihr Charakter, der im Spiel Bilder als Andenken aufnimmt. Patel erstarrte vor Schock, bevor sie verzweifelt versuchte, ihr virtuelles Selbst zu befreien – das sie so gestylt hatte, dass es ihrem echten blonden Haar, ihren Sommersprossen und ihrer Business-Casual-Kleidung ähnelte.
„Tu nicht so, als hättest du es nicht geliebt“, höhnten die menschlichen Stimmen der Angreifer durch ihr Headset, als sie weglief, „geh und reibe dich an dem Foto ab.“
Das Metaverse – der verschwommen definierte Begriff für die nächste Generation immersiver Virtual-Reality-Technologien – steckt noch in den Kinderschuhen. Aber selbst mit grober Grafik und manchmal fehlerhaftem Gameplay kann ein Erlebnis wie dieses eine tief verwurzelte Panikreaktion auslösen. „Die Wiedergabetreue ist so, dass es sich sehr real anfühlt“, Patel, der auch Mitbegründer der Firma Metaverse für Kinder ist Kabunierzählt die Beobachter. „Physiologisch habe ich in diesem Kampf-oder-Flucht- oder Erstarrungsmodus reagiert.“
Neue Berichte zeigen ein Metaversum, das eher den gesetzlosen Chatrooms ähnelt, die das frühe Internet dominierten, als den moderierten und algorithmisch beschnittenen digitalen Gärten, die wir heute meistens besetzen. Ein neuer Kanal 4 Sendungen Die Untersuchung dokumentierte Metaversen voller Hassreden, sexueller Belästigung, Pädophilie und Avataren, die Sex in Räumen simulieren, die für Kinder zugänglich sind.
Untersuchungen vor dem Metaversum-Hype haben ergeben, dass diese Erfahrungen alles andere als ungewöhnlich sind. A 2018 lernen Die Virtual-Reality-Forschungsagentur The Extended Mind fand heraus, dass 36 % der Männer und 49 % der Frauen, die regelmäßig VR-Technologien nutzen, angaben, sexuelle Belästigung erlebt zu haben.
Facebook, das letztes Jahr seinen Namen in Meta änderte, um seine Investition in diesen Bereich zu signalisieren, veröffentlichte seine Entscheidung, eine „persönliche Grenze“-Funktion in seine Metaverse-Produkte einzuführen, kurz nachdem Patels Erfahrung Schlagzeilen gemacht hatte. Dies ist eine virtuelle soziale Distanzfunktion, die Charaktere auslösen können, um andere wie ein Kraftfeld auf Distanz zu halten.
„Wir möchten, dass jeder, der unsere Produkte verwendet, eine gute Erfahrung macht und leicht die Tools findet, die in solchen Situationen helfen können, damit wir Nachforschungen anstellen und Maßnahmen ergreifen können“, sagte Bill Stillwell, Produktmanager, VR-Integrität bei Meta.
Der Metaverse-Pitch besagt, dass wir eines Tages hauptsächlich über ein Virtual-Reality-Headset mit dem Internet interagieren werden, wo scharf gerenderte und überzeugende 3D-Umgebungen die Grenzen der physischen und virtuellen Welt verwischen werden. Virtuelle Konzerte und Modenschauen haben bereits Scharen von digitalen Besuchern angezogen, und Marken und Prominente kaufen Grundstücke in der Metaverse auf, wobei Einzelverkäufe bis in die USA reichen Millionen von Dollar – Anlass zur Besorgnis über eine Metaverse-Immobilienblase.
Technologieunternehmen arbeiten daran, dass sich diese Welten eines Tages so real wie möglich anfühlen. Facebook im vergangenen November angekündigt dass es einen haptisch vibrierenden Handschuh entwickelte, um das Gefühl beim Umgang mit Objekten nachzuahmen; Spanisches Startup OWO hat eine mit Sensoren vollgepackte Jacke entwickelt, die es den Benutzern ermöglicht, Umarmungen und Schüsse im Spiel zu spüren; und das japanische Technologieunternehmen H2L arbeitet an Schmerzen simulieren in der Metaverse, einschließlich des Gefühls eines Vogels, der Ihren Arm pickt.
Milliarden von Dollar fließen in den Weltraum. Neben Meta arbeitet Microsoft, das seine Mixed-Reality-HoloLens-Headsets verkauft, an Metaverse-bezogener Software, während Apple ein Augmented-Reality-Headset entwickelt. Videospielunternehmen wie Roblox und Epic Games sowie dezentrale, Blockchain-basierte Metaversen wie Sandbox, Decentraland und Upland sind ebenfalls daran interessiert, ein Stück Zukunft zu ergattern. Die Investmentbank der CitiGroup prognostiziert, dass die Metaversum-Ökonomie in die Höhe schnellen wird 13 Billionen US-Dollar bis 2030.
Das normale Internet wird von Belästigungen, Hassreden und illegalen Inhalten geplagt – und wie erste Berichte deutlich machen, wird nichts davon im Metaversum verschwinden. „Wenn etwas möglich ist, wird es jemand tun“, sagt Lucy Sparrow, promovierte Forscherin für Computer- und Informationssysteme an der University of Melbourne, die Moral in Multiplayer-Videospielen untersucht hat. „Menschen können wirklich sehr kreativ sein, wenn es darum geht, Technologie zu nutzen oder zu missbrauchen.“
Das Metaversum könnte einige dieser Schäden tatsächlich verstärken. David J. Chalmers ist Professor für Philosophie und Neurowissenschaften an der New York University und Autor von Reality+… Virtuelle Welten und die Probleme der Philosophie. Ihm zufolge wird „körperliche Belästigung“ gegen einen Avatar im Allgemeinen als traumatischer empfunden als verbale Belästigung auf traditionellen Social-Media-Plattformen. “Dass verkörpert Version der sozialen Realität macht sie der physischen Realität viel ähnlicher“, sagt er.
Mit dieser schönen neuen Welt kommen ethische, rechtliche und philosophische Fragen auf. Wie sollte sich das regulatorische Umfeld entwickeln, um mit dem Metaverse umzugehen? Können sich Metaverse-Plattformen auf die Sicherheitsprotokolle ihrer Vorgänger verlassen oder sind völlig neue Ansätze gerechtfertigt? Und werden virtuelle Bestrafungen ausreichen, um schlechte Schauspieler abzuschrecken?
Der Schritt von einer Social-Media-Plattform wie Facebook in das Metaverse bedeutet eine Abkehr vom Moderieren Inhalt zu moderieren Verhalten. Letzteres „in irgendeiner sinnvollen Größenordnung zu tun, ist praktisch unmöglich“, räumte Andrew Bosworth, Chief Technology Officer von Facebook, ein ein durchgesickertes internes Memo im vergangenen November.
Bosworths Memo schlug vor, dass schlechte Schauspieler, die aus dem Metaversum geworfen wurden, auf allen Facebook-eigenen Plattformen blockiert werden könnten, selbst wenn sie mehrere virtuelle Avatare verwendeten. Aber um wirklich effektiv zu sein, würde dieser Ansatz auf Konten beruhen, die eine ID erfordern, um eingerichtet zu werden.
Facebook sagte letztes Jahr dass es untersucht, wie man KI-Moderation auf das Metaverse anwendet, aber noch nichts gebaut hat. Die automatisierte Inhaltsmoderation wird von bestehenden Social-Media-Plattformen verwendet, um große Mengen an Benutzern und Material zu verwalten, leidet aber immer noch unter False Positives – hauptsächlich aufgrund der Unfähigkeit, den Kontext zu verstehen – sowie das Versäumnis, Inhalte zu erkennen, die wirklich gegen Richtlinien verstoßen.
„Die KI ist immer noch nicht schlau genug, um Echtzeit-Audiostreams abzufangen und genau festzustellen, ob sich jemand anstößig verhält.“ argumentiert Professor für digitale Rechte an der Bournemouth University, Andy Phippen. „Und obwohl es einen gewissen Spielraum für menschliche Moderation geben könnte, wäre die Überwachung aller Online-Räume in Echtzeit unglaublich ressourcenintensiv.“
Es gibt einige Beispiele dafür, dass Kriminalität in der digitalen Welt zu einer Bestrafung in der realen Welt geführt hat. Im Jahr 2012 der niederländische Oberste Gerichtshof über einen Fall entschieden mit dem Diebstahl eines digitalen Amuletts und Schwerts im Online-Multiplayer-Spiel Runescape. Zwei Spieler, die einen anderen mit dem Messer bestohlen hatten, wurden zu Zivildienst in der realen Welt verurteilt, wobei der Richter sagte, dass die gestohlenen Gegenstände zwar keinen materiellen Wert hatten, ihr Wert aber von der Zeit und Mühe herrührte, die aufgewendet wurde, um sie zu beschaffen.
Die Beurteilung digitaler Übertretungen vor realen Gerichten scheint nicht gerade skalierbar zu sein, aber Rechtsexperten glauben, dass wir zunehmend reale Rechtsrahmen sehen könnten, wenn das Metaversum so wichtig wird, wie es von Technologie-CEOs behauptet wird. Der Dozent für Biorecht an der Brunel University, London, Pin Lean Lau, sagt, dass sich im Metaversum zwar einige neue rechtliche Herausforderungen ergeben könnten, beispielsweise Fragen zur „Rechtspersönlichkeit des Avatars oder zum Besitz von virtuellem Eigentum und ob dieses verwendet werden könnte als Sicherheit für Kredite … wir müssen das Rad vielleicht nicht komplett neu erfinden.“
Es gibt jedoch diejenigen, die hoffen, dass das Metaversum eine Gelegenheit bieten könnte, über das reaktive Durchsetzungsmodell hinauszugehen, das die aktuelle Generation sozialer Online-Räume dominiert. Sparrow zum Beispiel missbilligt die derzeitige Betonung von Metaverse-Unternehmen auf individueller Verantwortung, bei der es das Opfer ist, das angesichts eines Angriffs eine Sicherheitsreaktion auslösen muss. Stattdessen fragt sie: „Wie können wir proaktiv ein Gemeinschaftsumfeld schaffen, das einen positiveren Austausch fördert?“
Niemand möchte in einem virtuellen Polizeistaat leben, und es wächst das Gefühl, dass die Durchsetzung durch die Förderung von prosozialem Verhalten ausgeglichen werden sollte. Einige Vorschläge der Branchenvereinigung XR Association, zu der Google, Microsoft, Oculus, Vive und Sony Interactive Entertainment gehören, umfassen die Belohnung von Altruismus und Empathie sowie die Anerkennung positiven kollektiven Verhaltens.
Der Mitbegründer des Gaming-Forschungsunternehmens Quantic Foundry, Nick Yee, hat hob das Beispiel des Multiplayer-Spiels hervor EverQuest, wo Spieler, die im Spiel gestorben waren, gezwungen waren, an den Ort ihres Todes zurückzukehren und verlorene Habseligkeiten zurückzuholen. Yee argumentiert, dass dieses Designmerkmal dazu beigetragen hat, altruistisches Verhalten zu fördern, da die Spieler andere Spieler um Hilfe bitten mussten, um die Gegenstände zu finden, was dazu beitrug, die Kameradschaft zu fördern und positive Interaktionen zu fördern.
Patel befürwortet den Blick über die Durchsetzungsmechanismen hinaus, wenn es darum geht, wie das Metaverse reguliert werden kann. Sie schlägt vor, das schädliche Verhalten einiger Menschen in digitalen Umgebungen zu untersuchen und „neugierig zu werden, was sie dazu bringt, sich so zu verhalten“.
Das Top-Down-Governance-Modell heutiger Social-Media-Plattformen könnte ebenfalls erschüttert werden, wenn dezentrale Plattformen weiterhin eine Rolle im Metaverse-Ökosystem spielen. Solche Modelle wurden bereits ausprobiert. Die Plattform für Online-Foren Reddit, zum Beispiel, verlässt sich teilweise auf Community-Moderatoren für Polizeidiskussionsgruppen. Ein frühes Multiplayer-Kinderspiel aus dem Besitz von Disney Club-PinguinPionierarbeit für ein gamifiziertes Netzwerk von „Geheimagenten“-Informanten, die ein wachsames Auge auf andere Spieler hatten.
EIN Papier 2019 von Forschern, die mit Oculus VR von Facebook arbeiten, weist darauf hin, dass das Unternehmen Community-gesteuerte Moderationsinitiativen in seinen VR-Anwendungen untersucht, um den Problemen der Top-Down-Governance entgegenzuwirken.
In vielerlei Hinsicht spiegeln die Lösungen, die Technologieunternehmen zur Bekämpfung von Metaverse-Schäden entwickelt haben, die unzureichenden Strategien wider, die sie im Internet angewendet haben – und könnten als Mittel zur Vermeidung von Regulierung bezeichnet werden.
Einige der neuen Gesetze, die erlassen werden, um soziale Medien zu mäßigen, können jedoch durchaus auf das Metaversum angewendet werden. Regierungsgesetze wie der neu eingeführte Digital Services Act der EU – der Social-Media-Unternehmen harte Strafen auferlegt, wenn sie illegale Inhalte nicht umgehend entfernen – und das immer noch in der Entwicklung begriffene Online-Schadensgesetz des Vereinigten Königreichs könnten eine Rolle bei der Entwicklung von Sicherheitsstandards spielen im Metaverse. Die Metaverse-Unternehmungen von Facebook geraten bereits wegen der Sicherheit in Konflikt mit den Aufsichtsbehörden. Anfang dieses Jahres suchte die britische Datenschutzbehörde, das Information Commissioner’s Office, Gespräche mit Facebook über die fehlende Kindersicherung bei seinem beliebten Virtual-Reality-Headset Oculus Quest 2.
Aber es gibt immer noch ungelöste rechtliche Fragen darüber, wie virtuelle Körper verwaltet werden können, die über den Rahmen des derzeitigen Webs hinausgehen – etwa, wie Regeln der nationalen Gerichtsbarkeit für eine virtuelle Welt gelten und ob ein Avatar eines Tages den erforderlichen Rechtsstatus erlangen könnte damit es verklagt wird. Die derzeit hochspekulative Natur des Weltraums bedeutet, dass diese Fragen noch lange nicht beantwortet sind.
„Ich vermute, dass sich die Gesetze des Metaversums in naher Zukunft im Großen und Ganzen von den Gesetzen physischer Länder ableiten werden“, sagt Chalmers. Langfristig sei es aber „möglich, dass virtuelle Welten eher autonome Gesellschaften mit eigenen Prinzipien werden“.
