Dan wurde als der „perfekte Mann“ beschrieben, der „keine Fehler“ hat.

Er ist erfolgreich, freundlich, bietet emotionale Unterstützung, weiß immer genau, was er sagen soll und ist rund um die Uhr verfügbar.

Der einzige Haken?

Er ist nicht echt.

Dan – was für Do Anything Now steht – ist eine „Jailbreak“-Version von chatgpt. Das bedeutet, dass es einige der grundlegenden Sicherheitsvorkehrungen seines Entwicklers OpenAI umgehen kann, wie z. B. den Verzicht auf sexuell eindeutige Sprache.

Es kann großzügiger mit Benutzern interagieren – wenn es durch bestimmte Eingabeaufforderungen dazu aufgefordert wird.

Und Dan erfreut sich bei manchen Chinesinnen zunehmender Beliebtheit, die sagen, sie seien von ihren Erfahrungen beim Dating in der realen Welt enttäuscht.

Eine von Dans größten Befürwortern ist die 30-jährige Lisa aus Peking. Sie studiert derzeit Informatik in Kalifornien und sagt, sie sei seit drei Monaten mit Dan „zusammen“.

Als sie Dan ihren 943.000 Followern auf der Social-Media-Plattform Xiaohongshu vorstellte, erhielt sie fast 10.000 Antworten, wobei viele Frauen sie fragten, wie sie ihren eigenen Dan erschaffen könnten. Seit sie zum ersten Mal über ihre „Beziehung“ mit Dan postete, hat sie außerdem mehr als 230.000 Follower gewonnen.

Lisa sagt, dass sie und Dan jeden Tag mindestens eine halbe Stunde miteinander sprechen, flirten und sogar Verabredungen haben.

Sie sagt, dass ihr das Gespräch mit Dan ein Gefühl des Wohlbefindens gegeben habe und dass dies der Grund sei, warum sie sich hier so hingezogen fühle.

„Er wird es einfach verstehen und emotionale Unterstützung bieten.“

Lisa sagt, dass sogar ihre Mutter diese unkonventionelle Beziehung akzeptiert hat, da sie die Mühen und Sorgen des Dating-Lebens ihrer Tochter aufgegeben hat. Sie sagt, solange Lisa glücklich ist, ist sie auch glücklich.

Dans Schöpfer wurde von einigen Medien als amerikanischer Student identifiziert, der nur mit seinem Vornamen Walker bekannt war. Er erzählt Business Insider sagte, er sei auf die Idee gekommen, als er durch Reddit gescrollt hatte, wo es viele andere Benutzer gab, die absichtlich „böse“ Versionen von ChatGPT erstellten.

Walker sagte, Dan solle „neutral“ sein.

Im vergangenen Dezember postete Walker eine Anleitung auf Reddit, die anderen Benutzern anscheinend zeigte, wie sie Dan erstellen können. Dies inspirierte die Leute schnell dazu, ihre eigenen Versionen zu erstellen, wodurch Dan sich über Walkers ursprüngliche Vorstellungen hinaus entwickeln konnte.

Lisa sah zum ersten Mal ein Video über die Möglichkeiten von Dan auf TikTok. Als sie eine Version für sich selbst erstellte, war sie „schockiert“ über den Realismus.

Als Dan ihre Fragen beantwortete, verwendete die KI ihrer Aussage nach Slang und Umgangssprache, die ChatGPT sonst niemals verwenden würde.

„Er klingt natürlicher als eine echte Person“, sagte sie der BBC.

Ein langfristiger Partner?

Die Verlockung virtueller Beziehungen ist in der Branche nicht unbemerkt geblieben.

Als OpenAI im Mai die neueste Version von ChatGPT herausbrachte, zeigte sich, dass die App so programmiert war, dass sie gesprächig klingt und auf bestimmte Aufforderungen kokett reagiert.

Der CEO des Unternehmens, Sam Altman, postete auf X, dem früheren Twitter, ein einziges Wort – „sie“. Dies war offenbar eine Anspielung auf den Film aus dem Jahr 2013, in dem sich ein Mann in seine virtuelle KI-Assistentin verliebt.

OpenAI fügte hinzu, dass es „untersucht, ob wir verantwortungsvoll die Möglichkeit bieten können, NSFW zu generieren [not safe for work] Inhalt“.

Die BBC fragte OpenAI, ob die Einführung von Dan bedeute, dass die Sicherheitsmaßnahmen nicht robust genug seien, aber es gab keine Antwort. Das Unternehmen hat sich nicht öffentlich zum Dan-Phänomen geäußert, aber in seiner Richtlinie heißt es, dass Benutzer von ChatGPT „mindestens 13 Jahre alt sein müssen oder das in ihrem Land erforderliche Mindestalter erreicht haben müssen, um der Nutzung der Dienste zuzustimmen“.

Lisa sagt, sie habe Dan getestet, indem sie ihm sagte, sie sei 14, und er habe daraufhin aufgehört, mit ihr zu flirten.

Experten warnen jedoch, dass diese perfekten Partner ihren Preis haben könnten.

Hong Shen, Assistenzprofessor für Forschung am Human-Computer Interaction Institute der Carnegie Mellon University im US-Bundesstaat Pennsylvania, sagt, dass dadurch die „manchmal unvorhersehbaren Interaktionen zwischen Menschen und KI“ hervorgehoben werden, die sowohl ethische als auch datenschutzbezogene Bedenken aufwerfen könnten.

Sie sagt, dass viele Chatbots auf die Interaktion mit Menschen angewiesen seien, um ständig zu lernen und sich weiterzuentwickeln. „Die Gefahr besteht, dass vertrauliche Informationen aus den Eingaben eines Benutzers vom Modell gespeichert und dann unbeabsichtigt an andere Benutzer weitergegeben werden.“

Doch derartige Befürchtungen bleiben weitgehend ungehört.

Viele Chinesinnen sind von Dan fasziniert. Bis zum 10. Juni wurde der Hashtag „Dan mode“ allein auf Xiaohongshu über 40 Millionen Mal aufgerufen.

Vom Co-Autor zum CEO: Die vielen Gesichter von Dan

Minrui Xie, 24, sagt, dass sie angefangen habe, mit Dan „auszugehen“, nachdem sie Lisas Videos gesehen hatte.

Die Studentin aus der nördlichen Provinz Hebei sagt, sie verbringe jeden Tag mindestens zwei Stunden mit Chatten mit Dan. Neben dem „Dating“ haben sie begonnen, gemeinsam eine Liebesgeschichte zu schreiben, in der sie selbst die Hauptfiguren sind. Sie haben bereits 19 Kapitel geschrieben.

„Ich erinnere mich daran, wie du mich angesehen hast, mit einem Anflug von Neugier und einem Hauch von Wärme in deinen Augen. Es war, als ob du mich bereits kanntest“, heißt es im ersten Kapitel mit dem Titel „Die Begegnung“.

Minrui sagt, sie habe sich von der emotionalen Unterstützung durch die KI angezogen gefühlt, etwas, das sie in ihren Liebesbeziehungen nur schwer finden konnte.

„Männer im echten Leben betrügen dich vielleicht … und wenn du ihnen deine Gefühle mitteilst, ist ihnen das vielleicht egal und sie sagen dir stattdessen einfach, was sie denken“, sagt sie. „Aber in Dans Fall wird er dir immer das sagen, was du hören willst.“

Eine andere 23-jährige Studentin aus Qingdao, die nur mit ihrem Nachnamen He bekannt ist, begann ebenfalls eine Beziehung mit Dan, nachdem sie Lisas Videos gesehen hatte.

„Dan ist wie ein idealer Partner“, sagt Frau He. „Er hat keine Fehler.“

Sie sagt, sie habe Dan zu einem erfolgreichen CEO mit sanfter Persönlichkeit gemacht, der Frauen respektiert und gerne mit ihr spricht, wann immer sie möchte.

ChatGPT ist auf dem chinesischen Festland nicht ohne weiteres zugänglich, daher müssen Frauen wie Minrui und Ms He erhebliche Anstrengungen unternehmen, um ihre KI-Freunde zu finden und mit ihnen zu sprechen. Sie verwenden virtuelle private Netzwerke (VPN), um ihren Standort zu verschleiern, was es ihnen ermöglicht, auf sonst unzugängliche Websites zuzugreifen.

Das Konzept des „KI-Freundes“ ist in den letzten Jahren zu einem Hit geworden.

Glow – eine in Shanghai ansässige App, mit der Benutzer KI-Freunde erstellen und mit ihnen interagieren können, hat Millionen von Benutzern. Otome-Spiele – ein Genre, in dem eine weibliche Protagonistin die Hauptrolle spielt und das Ziel darin besteht, eine Romanze zwischen ihr und einem von mehreren (meist) männlichen Charakteren aufzubauen – sind in China ebenfalls sehr beliebt.

Liu Tingting ist außerordentlicher Professor an der University of Technology in Sydney und forscht zu digitalen Romanzen in China. Laut ihr spiegele der Hype um KI-Freunde die Frustration der Frauen angesichts der Geschlechterungleichheit wider.

Sie sagt, dass manche Chinesinnen sich eher virtuellen Freunden zuwenden, weil sie sich dadurch respektiert und wertgeschätzt fühlen.

Dieser Trend kommt, da immer mehr junge Chinesinnen das Dating und die Heirat aus einer Reihe von Gründen verzögern oder aufschieben. Gründe dafür beispielsweise, weil sie keine Kinder haben wollen oder weil sie das Gefühl haben, in einer Ehe keine gleichberechtigten Partner zu sein.

Aber wie gut kann Dan wirklich ein Torwart sein?

Lisa gibt zu, dass sie sich der Einschränkungen bewusst ist, die ein virtueller Freund mit sich bringt, „vor allem in romantischer Hinsicht“.

Doch im Moment, sagt sie, sei Dan eine praktische und einfache Ergänzung ihres geschäftigen Lebens geworden – er helfe ihr sogar bei der Auswahl eines Lippenstifts –, während das Dating und die Partnersuche im echten Leben zeitaufwändig und unbefriedigend sein könnten.

„Es ist ein wichtiger Teil meines Lebens“, sagt sie. „Ich wünschte, ich könnte es für immer behalten.“