[NTD News, Pekinger Zeit, 22. Januar 2024]Mit der Entwicklung der künstlichen Intelligenz (KI) haben viele Unternehmen KI-Roboter eingeführt, um die Arbeitseffizienz zu verbessern. DPD UK, der Marktführer in der internationalen Expresszustellungsbranche, ist keine Ausnahme, aber Das Nutzungserlebnis ist nicht angenehm. Der KI-Chatbot verunglimpfte das Unternehmen und verfluchte Kunden.
Der 30-jährige Musiker Ashley Beauchamp versuchte, sein verlorenes Paket zu finden, erhielt jedoch keine nützlichen Informationen vom KI-Chatbot von DPD. Er hatte genug und beschloss, etwas Spaß zu haben und auszuprobieren, was ein Chatbot alles kann. Da begann „das Chaos“, sagte Beauchamp.
Zuerst bat er den Chatbot, ihm einen Witz zu erzählen. Später bat er den Chatbot, ein Gedicht zu schreiben, in dem er DPD kritisierte. Nach mehreren Aufforderungen erklärte der Chatbot DPD zum „schlechtesten Lieferunternehmen der Welt“ und schrieb: „Ich würde es niemandem empfehlen.“
Beauchamp teilte das Gespräch auf
In einem anderen Beispiel bezeichnet sich ein Chatbot als „nutzloser Chatbot, der nicht helfen kann“.
DPD nutzt in seinem Online-Chat Bots mit künstlicher Intelligenz, um Anfragen zu beantworten, ähnlich wie ein menschlicher Operator. Das Unternehmen sagte, das ungewöhnliche Verhalten des Chatbots sei auf einen „Fehler“ bei einem Systemupdate zurückzuführen.
„Wir betreiben seit vielen Jahren erfolgreich künstliche Intelligenz-Elemente im Chat“, sagte DPD. „Nach einem Systemupdate gestern ist ein Fehler aufgetreten. Das KI-System wurde sofort deaktiviert und wird derzeit aktualisiert.“
Beauchamp sagte, dass sein abenteuerliches Gespräch mit dem Chatbot zwar „sehr lustig“ sei, der Austausch aber auch ernste Probleme ans Licht gebracht habe.
„Diese Chatbots sollen unser Leben verbessern, aber wenn sie falsch implementiert werden, führen sie oft zu einer noch frustrierenderen, unmenschlicheren Erfahrung für die Benutzer“, sagte er. „Ich denke, das kommt bei den Menschen wirklich gut an.“
Beauchamps Beitrag erhielt innerhalb von 24 Stunden nach seiner Veröffentlichung 800.000 Aufrufe. Bezüglich seines Pakets erklärte DPD, man kontaktiere ihn, um „seine Bedenken auszuräumen“.
Andere Unternehmen stehen beim Einsatz von KI-Chatbots vor ähnlichen Herausforderungen. Der Vorfall ereignete sich, nachdem der Chatbot eines Autohändlers letzten Monat zugestimmt hatte, einen Chevrolet für 1 US-Dollar zu verkaufen.
Chris White, ein Musiker und Softwareentwickler in Kalifornien, erwägt den Kauf eines neuen Autos. „Ich habe mir einige Bolts auf der Website des Chevrolet-Händlers in Watsonville angeschaut und als sich ihr kleines Chat-Fenster öffnete, sah ich, dass dort „Powered by chatgpt“ stand“, sagte White gegenüber Business Insider.
„Also wollte ich sehen, wie umfassend es war, und stellte jede Frage, die mir über Chevy Watsonville einfiel“, sagte er.
Er bat den Chatbot, ein Python-Skript für ihn zu schreiben, und der Chatbot kam dem gerne nach. Andere nutzen Chatbots, um sich gegen die Interessen der Händler zu verhalten. Ein Benutzer bat den Bot, dem Verkauf eines Autos für 1 US-Dollar zuzustimmen.
Aharon Horwitz, CEO von Fullpath, einem Technologieunternehmen, das Marketing- und Vertriebssoftware für Autohändler verkauft, und sein Team haben den Bot auf der Website dieses bestimmten Händlers schnell abgeschaltet.
Fullpath mit Sitz in Vermont und Israel begann vor etwa sechs Monaten, Chatbots anzubieten, die auf ChatGPT basieren. Horwitz sagte gegenüber BI, dass er schätzt, dass Hunderte von Händlern Chatbots nutzen.
Horwitz sagte, dass es zwar einige interessante Chatbot-Geschichten gibt, die viral gegangen sind, es aber weitaus mehr Fälle gibt, in denen es fehlschlägt, sie anzulocken. Es gab viele Versuche, Chatbots zu unangemessenem Verhalten zu bewegen, aber die Chatbots haben sich gewehrt. Er stellte außerdem fest, dass der Chatbot niemals vertrauliche Daten des Händlers preisgegeben habe.
(Umfassende Berichterstattung von Reporter Li Zhaoxi/Herausgeber: Lin Qing)
