„Für den Großteil der Bevölkerung ist das KI-Bewusstsein bereits Realität.“

Umfrage sagt

In einer kürzlich durchgeführten Umfrage stellten zwei Forscher fest, dass ein erschreckender Anteil der aktivsten Benutzer von chatgpt alarmierende Missverständnisse über den OpenAI-Chatbot hat.

Laut einer Pressemitteilung der englischen University of Waterloowo die Erstautorin der Studie, Clara Combatto, Professorin für Psychologie ist, scheinen zwei Drittel der Befragten fälschlicherweise zu glauben, dass ChatGPT bei Bewusstsein ist – und dass es, nur um sicherzugehen, Gefühle und Erinnerungen haben kann.

Es ist unnötig zu sagen, dass es mit ziemlicher Sicherheit keines dieser Dinge gibt. Aber die weitverbreitete Annahme menschlicher Benutzer, dass es das tut, fügt der seltsamen Dynamik der KI-Industrie eine weitere Falte hinzu.

Veröffentlicht in Tagebuch Neurowissenschaft des BewusstseinsDas Papier – an dem auch Stephen Fleming, Kognitionsneurowissenschaftler am University College London, mitwirkte – legt nicht nur nahe, dass die Mehrheit der Benutzer das weit verbreitete Large Language Model (LLM) für bewusst hält, sondern auch, dass diese Ansicht umso wahrscheinlicher wird, je häufiger die Menschen es verwenden.

„Während die meisten Experten bestreiten, dass die aktuelle KI über ein Bewusstsein verfügen könnte“, sagte Combatto in der Pressemitteilung der Schule, „zeigt unsere Forschung, dass das Bewusstsein der KI für den Großteil der Öffentlichkeit bereits Realität ist.“

Willenssache

Die englischen Forscher rekrutierten online 300 Personen in den Vereinigten Staaten und stellten ihnen eine Reihe von Fragen dazu, ob sie glaubten, dass LLMs über die Fähigkeit zu Bewusstsein oder anderen subjektiven menschlichen Zuständen wie Emotionen, Planung und Vernunft verfügen. Neben diesen Fragen fragten Fleming und Combatto die Teilnehmer auch, wie oft sie ChatGPT verwendeten.

Wie die Kognitionsforscher herausfanden, schienen Menschen, die den Chatbot häufig nutzten, im Laufe der Zeit, in der sie sich mit ihm beschäftigten, spontan eine „Theory of Mind“ oder eine Vorstellung von KI als denkender und fühlender Entität entwickelt zu haben.

„Diese Ergebnisse demonstrieren die Macht der Sprache“, sagte Comabtto, „denn allein ein Gespräch kann uns zu der Annahme verleiten, dass ein Wesen, das ganz anders aussieht und funktioniert als wir, einen Verstand haben kann.“

Diese Erkenntnisse sind an sich schon faszinierend, doch die Forscher hoffen, dass sie auch Auswirkungen auf zukünftige KI-Sicherheitsmaßnahmen haben könnten.

„Neben Emotionen ist das Bewusstsein mit intellektuellen Fähigkeiten verbunden, die für moralische Verantwortung unerlässlich sind: Die Fähigkeit, Pläne zu schmieden, absichtlich zu handeln und Selbstkontrolle zu haben, sind Grundsätze unserer ethischen und rechtlichen Systeme“, erklärte Combatto. „Diese öffentlichen Einstellungen sollten daher neben dem Expertenkonsens eine zentrale Überlegung bei der Gestaltung und Regulierung von KI für eine sichere Nutzung sein.“

Natürlich muss noch viel mehr geforscht werden, um festzustellen, wie weit verbreitet diese Überzeugungen tatsächlich sind. Doch derzeit scheinen viele Benutzer auf der Seite der kleinen Minderheit von KI-Experten zu stehen, die ebenfalls der Meinung sind, dass LLMs über ein Bewusstsein verfügen.

Mehr zu fortgeschrittener KI: OpenAI-Forscher sagt, er habe aufgegeben, als er die erschütternde Wahrheit erkannte