Ihm fehlte nur noch die Sprache. Es ist fertig. chatgpt hat jetzt eine Stimme und für Lilian Weng, Leiterin der Sicherheitssysteme bei OpenAI, ändert das alles. So sehr, dass sie in einem Beitrag auf X (ehemals Twitter) eine besonders intensive und verstörende Interaktion mit dem bekanntesten Sprachmodell hervorrufen wollte. Die Gizmodo-Website kehrt zu dieser seltsamen Angelegenheit zurück.

Lilian Weng sagt tatsächlich, sie habe ein Gespräch geführt „bewegend, persönlich“ mit dem jetzt gesprächigen ChatGPT über seinen Stress und den Platz der Arbeit in seinem Leben. Dieser Austausch, sagt sie, habe ihr gutgetan und sie habe gefühlt „Hört zu und beruhigt“. Lilian Weng Konfitüre „Hatte nie eine Therapie“aber sie geht davon aus, dass der Effekt wahrscheinlich vergleichbar ist.

Kann ChatGPT Ihr Therapeut werden? Diese Perspektive spiegelt ein in den 1960er Jahren durchgeführtes Experiment wider: das ELIZA-Programm. Dieses Konversationsmodell, codiert mit die Programmiersprache SNOBOL von einem gewissen Joseph Weizenbaum, versuchte, die Methoden des amerikanischen Psychotherapeuten Carl Rogers zu reproduzieren, einem glühenden Verfechter des einfühlsamen und bedingungslos positiven Zuhörens. ELIZA begnügte sich daher damit, die Aussagen des „Patienten“ in Form von Fragen umzuformulieren, um ihn zum Weitergehen zu ermutigen: „Warum sagen Sie das?“; „Erzähl mir mehr darüber“…

ELIZAs Unfähigkeit, wirklich zu verstehen, was ihr gesagt wird, und somit Probleme zu lösen, ist zu einem Vorteil geworden: Einen Gesprächspartner zum Sprechen zu bringen und die Illusion aufmerksamen Zuhörens zu vermitteln, hat sich für den „Patienten“ als sehr befriedigend erwiesen. », da sie keine Lösung bietet . Mittlerweile sprechen wir von einem „ELIZA-Effekt“, um die Tendenz zu beschreiben, das Verhalten eines Computers unbewusst an das eines Menschen anzugleichen.

ELIZA, spring mir auf den Hals

Fast sechs Jahrzehnte später hat das Aufkommen der künstlichen Intelligenz (KI) die Entstehung vieler Dienste und Anwendungen ermöglicht, mit der Idee, dass a Chatbot war nicht nur gewohnt Planen Sie einen Urlaub in der Toskana (das ist entscheidend), könnte aber auch zu einer völlig ehrlichen Simulation aufmerksamen Zuhörens werden. Replika, Wysa und viele andere bieten einen Platz zwischen dem guten Freund und dem virtuellen Wellness-Coach, erhältlich bei google Play und im App Store. KI dient daher auch dazu, ihren Sack zu leeren.

Wenn diese Apps die nötigen Vorkehrungen treffen, um eher wie Spiele als wie medizinische Geräte zu wirken, ist die Versuchung für Profis groß. Im Mai 2023 beschloss die American National Eating Disorders Association (NEDA), ihre Hotline zu ersetzen von einem Chatbot namens Tessa (und nebenbei alle vier Tage später zu entlassen). Das Experiment dauerte eine Woche und Tessa wurde nach dem Destillieren vom Stromnetz getrennt einige fragwürdige Ratschläge für Menschen mit schweren Essstörungen.

Ist es also dieser ELIZA-Effekt, der Lilian Weng so verärgert hat? Ausschlaggebend scheint die Tatsache gewesen zu sein, dass ChatGPT nun über eine Stimme verfügt, ein Element, das Informationen über die Identität, Emotion und Absicht des Sprechers vermittelt. Dieser Fortschritt ist alles andere als eine Spielerei, sondern wird uns sicherlich leichter und aus freien Stücken an der Vorstellung festhalten, dass wir mit jemandem und nicht mehr mit etwas sprechen.

ChatGPT wird, selbst mit einer schönen Stimme, niemals einen Profi ersetzen, und zwar Lilian Weng Unternehmen, war wahrscheinlich etwas übertrieben. Wir müssen jedoch damit rechnen, dass diese als Produktivitätshilfen präsentierten Hilfsmittel auch andere Verwendungszwecke haben, unter anderem für unser Wohlbefinden. Und natürlich um unsere Reisen in die Toskana (oder anderswo) zu organisieren.