Der Skyrim Die Modding-Community ist derzeit in eine eigene Deepfake-Porno-Kontroverse verwickelt, in deren Mittelpunkt die beliebte Modding-Site NexusMods und die KI-Technologie zum Klonen von Stimmen stehen. Vor der Veröffentlichung von Bethesdas kommendem Weltraumepos Sternenfeldund der Überzeugung, dass das Spiel eine Art Eden für die Modding-Community sein wird, betonen diejenigen, die gegen die Verwendung von KI-generierten pornografischen Mods sind, die Bedeutung der Überwachung dieser Art von Inhalten, insbesondere wenn es darum geht, die Zustimmung aller einzuholen, deren Biodaten wurde verwendet, um den AI-Mod zu erstellen.

Weiterlesen: Die Folgen von Twitchs Deepfake-Pornoskandal

Seitdem ist es möglich, Charaktere einzufügen, Sprachzeilen hinzuzufügen und das Erscheinungsbild durch Modding zu ändern SkyrimDie ursprüngliche Veröffentlichung erfolgte im Jahr 2011. Bethesdas Open-World-Rollenspiel ist bereits dafür berüchtigt, ein Spielplatz für erotische Inhalte zu sein, auf dem Spieler NPCs nach Belieben posieren und kleiden können. Fortschritte in der KI-Technologie haben jedoch erweitert, was Spieler in ihre Spiele importieren können. Aktuelle Mods (von denen es Dutzende gibt) nutzen Voice-Cloning-Technologie von Unternehmen wie ElevenLabs, um die Stimmen vorhandener Mods nachzuahmen Skyrim Charaktere, die von den Moddern geschriebene Skripte nachspielen, machen Charaktere wie Frea, die Schamanin, und Illdi, die Bardin, zu willigen Teilnehmern an einer Vielzahl sexueller Begegnungen. Obwohl es sich hierbei um fiktive Charaktere handelt, werden sie natürlich von echten Menschen geäußert – und darin liegt das Problem.

Der Skyrim KI-Deepfake-Kontroverse

Viele der pornografischen Voice-Line-Mods enthalten auch visuelle Überarbeitungsmods für die Charaktere (bei denen es sich fast ausschließlich um Frauen handelt) oder verlinken darauf, um sie realistischer oder in vielen Fällen vollbusiger aussehen zu lassen.

Ich habe einige dieser Mods in Aktion gesehen, und sie kommen mit Sicherheit nicht annähernd an die Darstellung einer realistischen sexuellen Begegnung heran – die hölzernen Linien der KI-generierten Stimmen sind eine weitere Erinnerung daran, dass KI echte Menschen nicht ersetzen kann und sollte – aber das macht die Existenz solcher Mods nicht weniger problematisch.

Robbie, der Twitter-Nutzer, der auf diese Mods aufmerksam gemacht hat (selbst a Skyrim modder) behauptet, dass Synchronsprecher, die sich an NexusMods gewandt hatten, die Entfernung der mit ihnen verbundenen Inhalte erreichen konnten, aber Futuriq.de konnte dies nicht unabhängig bestätigen. NexusMods, das größte Repository an Mods für Spiele wie Skyrim, sagte in einem Erklärung vom April 2023„KI-generierte Mod-Inhalte verstoßen nicht gegen unsere Regeln, können aber entfernt werden, wenn wir eine glaubwürdige Beschwerde von einem betroffenen Urheber/Rechteinhaber erhalten.“ Diese Haltung hat sich als kontrovers erwiesen, insbesondere weil derzeit KI-generierte Mods auf der Website aktiv sind. Futuriq.de Ich habe NexusMods um einen Kommentar gebeten.

Die heikle Situation hat die Community dazu veranlasst, Gespräche darüber zu führen, was als nächstes passiert. Robbie schrieb ein Reddit-Beitrag im Skyrim Mods-Subreddit Auf die pornografischen Mods aufmerksam zu machen und für deren Entfernung zu plädieren – es wurde schnell zum Schauplatz intensiver Debatten, bevor es von den Moderatoren gesperrt wurde. Einige beschwerten sich darüber, dass der ursprüngliche Beitrag gegen die Nutzungsbedingungen von Reddit verstoße, indem er „Leute dazu ermutige, eine andere Website zu attackieren“, während andere auf einen vermeintlichen Mangel an Empörung über die traditionelle Technik des Zusammenfügens von „Vanilla“-Stimmen zur Generierung expliziter Inhalte als Vorwand verwiesen um die aktuelle Kontroverse abzutun.

Der ursprüngliche Beitrag verwies auch auf die Nutzungsbedingungen von ElevenLabs, die angeblich von Personen, die die Software verwenden, verlangen, ihre Zustimmung zum „Hochladen und Klonen“ von Sprachproben einzuholen. ElevenLabs verlangt zwar, dass diejenigen, die seine Voice-Cloning-Technologie nutzen, bezahlte Abonnenten seines Dienstes werden, um die Nutzung aus schändlichen Gründen einzudämmen – aber es ist klar, dass dies Menschen nicht davon abgehalten hat, die Technologie zur Erstellung expliziter Inhalte zu nutzen. Futuriq.de Ich habe ElevenLabs um einen Kommentar gebeten.

Synchronsprecher nutzten Twitter, um ihrer Wut, Frustration und in vielen Fällen auch ihrem Ekel Ausdruck zu verleihen. Aggretsuko Schauspieler Ben Diskin hat einen Tweet an seine Twitter-Timeline gepinnt und die Leute gebeten, ihn wissen zu lassen, wenn sie seine Stimme auf solchen Websites sehen. „Ich bin nicht damit einverstanden, dass meine Stimme(n) ohne meine absolute, klare, spezifische und unbestreitbare Zustimmung in synthetische Stimmklone umgewandelt werden“, schrieb er. Diablo IV Synchronsprecher Ryan Laughton bezeichnete die Praxis als „in jeder Hinsicht falsch“.

Die National Association for Voice Actors twitterte, dass „der Schaden für Synchronsprecher und Spielefirmen durch KI und synthetische Stimmen real und greifbar ist“ und forderte Bethesda und das Mutterstudio ZeniMax auf, „zu helfen“, da „die Synchronsprecher nicht über die rechtlichen Befugnisse verfügen.“ um dagegen anzukämpfen.“

Skyrim Auch Spieler und Zuschauer mischten sich ein, und viele äußerten ihren Unmut über die Aussicht, dass ihre Stimmen in einen KI-Generator eingespeist werden, der explizite Inhalte ausspuckt. „Wenn jemand ohne meine Zustimmung meine Stimme nutzen würde, um KI-generierte Inhalte zu produzieren, wäre ich verdammt wütend. Wenn jemand meine Stimme ohne meine Zustimmung zur Produktion von Pornografie verwenden würde, würde ich sofort die Polizei rufen, um diese Person und die Website, auf der dieses Material gehostet wird, vernichten zu lassen“, schrieb u/robbobert01.

Futuriq.de hat Bethesda um einen Kommentar gebeten.