Wir verlangen alles und jedes von der generativen KI, die sich einen dauerhaften Platz in unserem Leben erobert. Auch wenn es bedeutet, sich möglicherweise in die Finger zu beißen. Denn diese Werkzeuge sind nicht dazu da, Mitgefühl zu zeigen oder deine kleinen Geheimnisse zu respektieren.

Zu Beginn der Begeisterung für generative KI sorgte ein Fall für Aufsehen: der Selbstmord eines Belgiers, der offenbar vom Chatbot dazu ermutigt wurde, sich trotz seiner depressiven Tendenzen „dem Paradies anzuschließen“. Zweifellos eine Ausnahme. Das könnte aber auch das erste Anzeichen einer langen Reihe sehr menschlicher Unglücke sein, die der Roboter verursacht hat.

chatgpt-n-oubliera-pas“>Vertrauen, das ChatGPT nicht vergessen wird

Das sagt zumindest Mike Wooldridge, Professor für KI an der Universität Oxford, voraus Der Wächter. Er glaubt, dass die Weitergabe privater Informationen oder vertrauliche Gespräche mit einem Chatbot „äußerst rücksichtslos“ wäre. » Und das liegt in der Natur des Chatbots.

• Vergessen wir nicht, dass ChatGPT und andere vergleichbare KIs dadurch funktionieren, dass sie Daten menschlichen Ursprungs lernen – wenn nicht sogar plündern. Alles, was wir online stellen, Texte, Fotos oder sogar Zeichnungen, wird von der KI gerne konsultiert und als Veranschaulichung dessen, was sie kopiert, aufgelistet. Einschließlich dessen, was Sie dort selbst eingeben.
• Alle Ihre Fragen, Ihre Behauptungen, die Ihre Überzeugungen oder Ihre Gefühle verraten können – nicht immer zulässig – werden im Austausch mit der KI zusammen mit dem, was sie über Sie weiß, aufgezeichnet und gekennzeichnet. Eigentlich wie Ihr Psychologe, aber ohne die Ethik.
• Es ist nicht nur fast unmöglich, Ihre Daten wiederherzustellen, sobald sie im System sind, Sie wissen auch nicht, wofür sie verwendet werden. Das ist im Prinzip schon besorgniserregend, aber wenn man ihm auch noch seine beruflichen Probleme, seine Ängste, seine gesundheitlichen Probleme oder seine Meinung anvertraut, ist das ein bisschen so, als würde man sein Tagebuch mit einem militärischen GPS-Beacon ins Meer werfen.

„Sie sollten davon ausgehen, dass alles, was Sie in ChatGPT eingeben, direkt in zukünftige Versionen von ChatGPT integriert wird. Und wenn Sie im Nachhinein zu dem Schluss kommen, dass Sie ChatGPT zu viel preisgegeben haben, sind Widerrufe eigentlich keine Option. »

Mike Wooldridge

Lügen, um dich besser zu verführen

Wooldridge wird einen Konferenzzyklus darüber einleiten, was KI kann und vor allem nicht kann. Und im Gegensatz zu dem, was man sich von einer Maschine auf den ersten Blick vorstellen könnte, liefert sie nicht unbedingt eine objektive Wahrheit.

„KI hat kein Einfühlungsvermögen. Sie hat kein Mitgefühl. Das ist absolut nicht das, was die Technologie tut, und was noch wichtiger ist, sie hat noch nie etwas erlebt. Technologie ist im Wesentlichen darauf ausgelegt, Ihnen zu sagen, was Sie hören möchten – das ist buchstäblich alles, was sie tut. »

Mike Wooldridge

Wir sind über den sachlichen Fehler hinaus, während ChatGPT immer noch viele macht. Laut dem britischen Forscher wird die KI nicht davor zurückschrecken, Sie gelegentlich anzulügen. Vergessen wir nicht, dass dies ein Werkzeug ist, das wir Ihnen verkaufen. Es muss dir gefallen.

• Genau dafür wurden „traditionelle“ soziale Netzwerke wie Facebook kritisiert. Ihre Algorithmen sind darauf trainiert, anhand Ihrer Online-Aktivitäten Inhalte zu finden, von denen Sie glauben, dass sie Ihnen gefallen könnten.
• Wenn Sie anhand Ihrer Fragen zeigen, welche Ergebnisse Ihnen am besten gefallen, besteht kein Zweifel daran, dass ein Chatbot diese Ihnen vorrangig zur Verfügung stellen wird. Genug, um Sie leicht in eine Spirale der Bestätigung zu verwickeln, die Ihren politischen oder philosophischen Ansichten schmeichelt. Oder deine Neurosen; Das ist vielleicht unserem unglücklichen Landsmann passiert, den wir oben erwähnt haben.