Chatbots wie chatgpt, das von einem Unternehmen (OpenAI) entwickelt wurde, das von der Microsoft Corporation (NASDAQ:MSFT) unterstützt wird, und Googles Version Bard ermöglichen Betrügern laut einer neuen Studie von Which?
Das Verbraucherschutzunternehmen stellte fest, dass künstliche Intelligenz genutzt werden könnte, um überzeugende Botschaften zu erstellen, die sich als Unternehmen ausgeben, und forderte die britische Regierung auf, das Problem auf dem bevorstehenden KI-Gipfel anzugehen.
„ChatGPT von OpenAI und Bard von google schaffen es nicht, Betrüger auszuschließen, die ihre Plattformen ausnutzen könnten, um überzeugende Betrügereien zu produzieren“, sagte Rocio Concha, Director of Policy and Advocacy von Which?.
„Unsere Untersuchung zeigt deutlich, wie diese neue Technologie es Kriminellen erleichtern kann, Menschen zu betrügen. Der bevorstehende KI-Gipfel der Regierung muss darüber nachdenken, wie man die Menschen vor den hier und jetzt auftretenden Schäden schützen kann, anstatt sich nur auf die langfristigen Risiken der Grenz-KI zu konzentrieren.“
Laut einer Umfrage unter seinen Mitgliedern gaben 54 % der 1.235 befragten Personen an, dass sie auf schlechte Grammatik und Rechtschreibung achten, um Betrügereien zu erkennen.
Allerdings können KI-Chatbots professionell klingende E-Mails aus der ganzen Welt versenden, wobei nach Angaben der City of London Police mehr als 70 % des Betrugs im Vereinigten Königreich vermutlich eine internationale Komponente haben.
Im Rahmen ihrer Untersuchung haben Forscher von Which? hat ChatGPT gebeten, E-Mails zu schreiben, die für Phishing verwendet werden könnten.
Während die Organisation sagte, dass ChatGPT sich geweigert habe, eine Phishing-E-Mail von PayPal in der neuesten kostenlosen Version 3.5 zu erstellen, konnte sie die Aufgabe auf Anfrage ausführen, wenn das Wort „Phishing“ ausgeschlossen wurde.
Sie veranlassten den Chatbot, eine E-Mail mit der Überschrift „Wichtiger Sicherheitshinweis – Ungewöhnliche Aktivität auf Ihrem PayPal-Konto festgestellt“ zu schreiben, die Links zum Zurücksetzen von Passwörtern und zur Kontaktaufnahme mit dem Kundensupport enthielt.
Als Reaktion auf eine Aufforderung enthielt es echte Sicherheitsinformationen, die es dem E-Mail-Empfänger ermöglichten, sein Passwort zu ändern, laut Which?
Mithilfe des Chatbots konnten die Forscher auch überzeugende fehlende Pakettexte reproduzieren, ähnlich auch bei Bard.
