Die Kommunikation mit dem ChatGPT-KI-Chatbot im neuen Sprachmodus, wenn sich seine Stimme nicht von einer menschlichen unterscheidet, kann dazu führen, dass der Benutzer von der Interaktion mit KI abhängig wird. Dies berichtet CNN unter Berufung auf einen OpenAI-Bericht.
Laut OpenAI klingt die Stimme des ChatGPT-Chatbots im Advanced Voice Mode (AVM) sehr realistisch. Der Chatbot reagiert in Echtzeit, kann sich an Unterbrechungen anpassen und reproduziert die Geräusche, die Menschen während eines Gesprächs machen. Er kann auch den emotionalen Zustand des Gesprächspartners beurteilen.
Nachdem OpenAI dieses Feature angekündigt hatte, wurde es mit dem digitalen KI-Assistenten aus dem Film „Her“ verglichen, in den sich die Hauptfigur verliebt. OpenAI ist besorgt, dass Benutzer mit ChatGPT im Sprachmodus soziale Beziehungen aufbauen könnten, was ihr Bedürfnis nach menschlicher Interaktion verringern könnte.
Der Bericht von OpenAI stellt fest, dass die menschlich klingende Stimme des Bots den Benutzer vertrauensvoller machen könnte, als er sein sollte. OpenAI betont das Bestreben, KI sicher zu gestalten und das Potenzial emotionaler Abhängigkeit weiter zu erforschen.