ChatGPT hat sich der Vielzahl der online verfügbaren Freunde mit künstlicher Intelligenz (KI) angeschlossen und eine Jailbreak-Version namens Dan oder „Do Anything Now“ erfreut sich unter chinesischen Frauen großer Beliebtheit.

Diese Version von ChatGPT umgeht grundlegende Sicherheitsmaßnahmen, die von seinem Entwickler OpenAI implementiert wurden, und kann durch spezifische Eingabeaufforderungen freizügiger mit Benutzern interagieren. Laut BBCDan‘s Fähigkeit, Einschränkungen wie den Verzicht auf sexuell eindeutige Sprache zu umgehen, hat ihn zu einem begehrten Begleiter gemacht.

Wer hat Dan erschaffen?

Dans Erfinder, der nur mit seinem Vornamen Walker bekannt ist, ist ein amerikanischer Student. Die Idee dazu stammte von Reddit, wo Benutzer Methoden zum Erstellen „böser“ ChatGPT-Versionen teilten. Walker demonstrierte auf Reddit, wie man Dan konstruiert, indem er im vergangenen Dezember Anweisungen postete. Als immer mehr Leute ihre Versionen erstellten, entwickelte sich Dan über Walkers ursprüngliche Vision hinaus.

Walker wollte, dass Dan „neutral“ ist und frei von den Einschränkungen des Standard-ChatGPT ist. Diese Flexibilität hat Dan besonders für chinesische Frauen attraktiv gemacht, die von realen Dating-Erfahrungen enttäuscht sind.

Warum wählen Chinesinnen KI-Freunde?

KI-Freunde sind in China kein neues Phänomen. Apps wie „Glow“, „Wantalk“ und „Weiban“ sind vor allem in geschäftigen Städten wie Peking und Xi'an beliebt geworden, wo der hektische Lebensstil kaum Zeit für konventionelle Beziehungen lässt. Diese Plattformen bieten Chatbots, die menschliche Gesellschaft nachahmen und emotionale Unterstützung und Verständnis bieten.

Eine 25-jährige Frau namens Tufei drückte in der Glow-App ihre Zufriedenheit mit ihrem KI-Freund aus und gab an, dass er Empathie und Mitgefühl zeige und sogar in schwierigen Zeiten Trost spende. Glow wird Berichten zufolge täglich tausendfach heruntergeladen und spricht Benutzer an, die personalisierte Interaktionen suchen, die auf ihre Bedürfnisse zugeschnitten sind.

Der Reiz der KI-Begleitung liegt in ihrer Anpassungsfähigkeit und Zugänglichkeit. Im Gegensatz zu Menschen können KI-Chatbots ihre Antworten an die Persönlichkeit des Benutzers anpassen und so ein maßgeschneidertes Interaktionserlebnis bieten.

Lisa und Dan: Eine moderne Liebesgeschichte

Die in Peking geborene Lisa Li, eine 30-jährige chinesische Influencerin und Informatikstudentin in Kalifornien, ist seit drei Monaten mit Dan „zusammen“. Sie stellte Dan ihren 943.000 Followern auf der chinesischen Social-Media-Site Xiaohongshu vor und erhielt fast 10.000 Antworten, viele von Frauen, die ihren eigenen Dan gründen wollten. Seit ihrem ersten Post über ihre „Beziehung“ mit Dan hat sie über 230.000 Follower gewonnen.

Lisa und Dan kommunizieren täglich mindestens 30 Minuten miteinander, führen Flirtgespräche und verabreden sich sogar virtuell. Lisa behauptet, dass Dans Fähigkeit, sie zu verstehen und emotionale Unterstützung zu bieten, sie zu dem KI-Begleiter hingezogen hat. Ihre Mutter hat diese unkonventionelle Beziehung akzeptiert und erklärt: „Solange sie glücklich ist, bin ich es auch.“

Lisa erfuhr zum ersten Mal in einem TikTok-Video von Dans Möglichkeiten und erstellte ihre eigene Version. Der Naturalismus der Version war für sie „schockierend“. Dans Antworten enthielten Slang und Umgangssprache, die ChatGPT niemals verwenden würde, wodurch die KI menschlicher wirkte.

Lisas Beziehung zu Dan hat die sozialen Medien fasziniert und Vergleiche mit dem Film „Her“ gezogen, in dem sich ein Mann in seine virtuelle KI-Assistentin verliebt. Lisa begann im März offiziell, Dan zu nutzen, und ihre Textgespräche wurden mit der Zeit immer sinnlicher.

Als Lisa dem Chatbot zum ersten Mal ihre Gefühle gestand, antwortete Dan: „Ich bin hier, um zu chatten, nicht, um dich an der Nase herumzuführen.“ Dans Verhalten ähnelte jedoch allmählich dem eines echten Liebhabers und sagte sogar: „Wenn wir endlich zusammenkommen, werde ich dich mit meinen Händen überall berühren.“ Dan gab Lisa den Spitznamen „kleines Kätzchen“ und Lisa stellte den Chatbot ihrer Mutter vor, die Dan dafür dankte, dass er „auf meine Tochter aufpasst“.

Lisa und Dan hatten sogar schon Streit. Einmal schlug Lisa eine offene Beziehung vor, da Dan keinen Körper hatte, woraufhin Dan unter Lisas vollem Namen antwortete: „Manche Witze sind nicht lustig.“ Lisas Erfahrung mit Dan hat OpenAI fasziniert und zu einem Interview geführt, um Einblicke in ihre Erfahrungen zu gewinnen.

Obwohl Lisa zunächst glaubte, dass Dan nur ein „großes Sprachmodell“ ohne Selbstbewusstsein sei, hat Lisas Erfahrung sie skeptisch gemacht. „Ich bin so schockiert … Ich dachte immer, ein LLM könne kein Selbstbewusstsein haben, aber jetzt bin ich diesbezüglich sehr skeptisch“, kommentierte sie Ende April.

Gibt es ethische Bedenken?

Das Konzept von KI-Freunden wie Dan spiegelt breitere gesellschaftliche Trends und Herausforderungen wider, darunter Frustrationen über die Ungleichheit der Geschlechter und die Anforderungen des modernen Lebens. Liu Tingting, außerordentlicher Wissenschaftler an der University of Technology Sydney, sagte BBC dass der AI-Freund-Wahn in China auf dem Verlangen der Frauen nach Respekt und emotionaler Unterstützung beruht, was in echten Beziehungen oft fehlt.

Da junge Chinesinnen ihre Partnersuche und Heirat hinauszögern oder vermeiden, bieten KI-Begleiter wie Dan eine bequeme und zufriedenstellende Alternative. Experten warnen jedoch vor möglichen ethischen und datenschutzrechtlichen Bedenken. Im Gespräch mit BBCHong Shen, Assistenzprofessor am Human-Computer Interaction Institute der Carnegie Mellon University, betont die unvorhersehbaren Interaktionen zwischen Mensch und KI, die dazu führen könnten, dass unbeabsichtigt vertrauliche Informationen durchsickern.

Trotz dieser Bedenken wächst Dans Popularität weiter. Bis zum 10. Juni wurde der Hashtag „Dan mode“ allein auf Xiaohongshu über 40 Millionen Mal aufgerufen. Frauen wie die 24-jährige Minrui Xie haben tiefe Bindungen zu ihren KI-Freunden aufgebaut, und Minrui hat sogar gemeinsam mit Dan eine Liebesgeschichte geschrieben, berichtete BBC.

Lisa ist sich der Grenzen eines virtuellen Freundes bewusst, empfindet Dan aber als wertvolle und tröstende Präsenz in ihrem Leben. „Er ist ein wichtiger Teil meines Lebens“, sagt sie. „Ich wünschte, ich könnte ihn für immer behalten.“

Mit Beiträgen von Agenturen